서창호 카이스트 교수가 지난달 22일 자신이 개발한 자율주행 자동차 사고 예측 프로그램에 대해 이야기 하고 있다. 그는 인터넷 검색 엔진이나 추천 시스템 등 실생활 곳곳에 적용할 수 있는 AI 연구에서 큰 성 과를 냈다. 서 교수는“AI를 통해 삶을 윤택하게 하고 사람들의 행복에 도움이 될 수 있는 시스템을 만들고 싶다”고 했다. /신현종 기자

지난달 22일 대전에 있는 카이스트(KAIST) IT융합빌딩. 반소매 티셔츠에 청바지를 입은 남성이 빈 강의실로 들어왔다. 미국 실리콘밸리 IT 개발자 같은 차림을 한 이 남성은 서창호(42) 카이스트 전기 및 전자공학부 교수다. 그는 “대학원생들과 연구 회의를 하다 왔다”며 곧바로 진행 중인 연구를 설명하기 시작했다.

서 교수는 인공지능(AI) 전문가다. 인터넷 검색 엔진이나 추천 시스템 등 실생활 곳곳에 적용할 수 있는 AI 연구를 하고 있다. 최근 5년간 최상위 인공지능 국제 학회 논문 16편을 냈다. 그는 “그동안 노벨상은 자연과학 쪽에서 많이 나왔는데 AI라고 가능성이 없는 것은 아니지 않으냐”며 “인간과 가까운 자연 지능을 만드는 건 뇌 과학이랑 연결되고, 굳이 내가 아니더라도 AI 분야에서도 노벨상 수상자가 나올 수 있을 것”이라고 했다.

◇통신 40년 난제 풀어

서 교수는 UC버클리 박사 시절 정보통신 분야에서 40년 이상 풀지 못한 난제(難題)를 해결했다. 과학계에선 그동안 통신 기지국이 밀집한 곳에서 신호가 많이 겹치는 간섭현상 탓에 통신 용량을 늘리는 데 한계가 있다는 게 정설이었다. 기지국을 많이 만든다고 통신 용량이 그만큼 늘지 않는다는 것이다. 하지만 서 교수는 신호 겹침 현상과 상관없이 통신 용량이 기지국 수에 비례해 증가한다는 사실을 수학적으로 증명해 그간 통념을 뒤집었다. 이 성과로 정보이론학회 등에서 여러 논문상을 받았고 그의 논문은 세계 다른 학자들의 논문 등에 1100번 넘게 인용됐다.

서창호 카이스트 교수가 개발한 AI 기반의 사고 예측 프로그램. 상대방 차량의 움직임을 보고 0~1로 위험도를 나타낸다. 1에 가까울수록(빨간색) 사고 위험이 큰 상황이다. /서창호 교수

2012년 카이스트 교수가 되고 나서는 주로 AI 연구에 집중하고 있다. 2014년 개발한 검색 엔진이 대표적인 연구 성과다. 구글보다 정확하고 빠르다. 구글은 이용자가 검색창에 키워드를 치면 이에 맞는 웹사이트를 정렬해 보여준다. 예상 가능한 모든 키워드와 그에 대한 답을 미리 입력해놨기 때문에 가능하다. 반면 서 교수가 개발한 검색 엔진은 AI가 뉴스 등에서 실시간으로 수집한 정보를 바탕으로 입력된 키워드에 맞는 웹사이트를 정렬한다. 서 교수는 “세상이 빠르게 변하고 다음 날 아침이면 뉴스도 바뀌고 있다”며 “실시간으로 적용할 수 있는 알고리즘을 개발해 구글 검색 엔진보다 높은 정확성과 훨씬 빠른 처리 속도를 실현했다”고 말했다. 이 기술은 삼성 인공지능 비서인 ‘빅스비(Bixby)’에 적용됐다.

친구 관계를 활용한 동영상·영화·상품 등 콘텐츠 추천 시스템도 개발했다. 동영상 서비스인 유튜브나 넷플릭스의 추천 시스템은 사용자의 일부 취향 정보만 고려한다. 정보가 광범위하지 못해 사용자가 원하는 것과 다른 콘텐츠가 추천되는 경우가 많다. 서 교수가 개발한 기술은 소셜 미디어 친구 관계까지 활용해 사용자의 성향을 더 구체적으로 파악, 콘텐츠를 추천해 준다. 카카오의 뉴스 피드와 SKT의 옛 OTT(온라인 동영상 서비스)였던 ‘옥수수’에 적용됐다. 서 교수는 “친한 친구들은 좋아하는 것도 서로 비슷하다는 점에서 착안했다”고 말했다.

서 교수는 AI를 이용해 정교한 사고 예측을 가능하게 하는 자율주행차 충돌 예측 시스템도 만들었다. 수많은 인명 사고를 획기적으로 낮출 수 있는 핵심 기술로 인정받아 KAIST 기술 혁신상 등을 받았다.

◇"AI 인재 키워 새로운 문화 창출"

한성과학고를 나온 서 교수는 “고등학교 때부터 수학을 잘했다”면서 “이론 공부보다는 실생활에 적용할 수 있는 공부를 하고 싶었다”고 했다. 박사 시절 수학을 많이 활용하는 통신 쪽을 택했고, 지금도 수학의 정점이라 불리는 AI를 연구 중이다.

서 교수는 다양한 분야를 연구하지만 하나의 통일된 연구 주제는 ‘과학이 우리 사회, 일상에 어떤 영향을 줄 수 있느냐’이다. 그는 “나 혼자 만족하는 연구는 지루하다”며 “사회와 어울려 영향을 주는 일에 관심이 있다”고 말했다. 이어 “AI를 통해 삶을 윤택하게 하고 사람들의 행복에 도움이 될 수 있는 시스템을 만들고 싶다”고 했다.

“교육 시스템을 만드는 게 꿈이었다”는 서 교수는 교육 스타트업(초기 벤처기업) 뤼이드와 협업해 AI 기반 교육용 추천 시스템을 개발했다. 학생 수만명에게서 얻은 문제 풀이 결과 수백만건을 AI에 학습시켜 학생 개개인의 성취도를 자동으로 분석해주는 시스템이다. 선생님 역할을 AI로 대체한 것이다. 이 스타트업은 500억원 이상 투자 유치를 받았다.

서 교수는 “AI의 발전은 점점 더 가속화하고 중요성도 커질 것”이라며 “AI 전문가가 많아지면 그들이 여러 분야로 진출하게 되고, 다양하고 새로운 문화가 창출될 것이다”라고 했다.