• 오피니언
  • 사이언스칼럼

[사이언스컬럼] 이제 과학자의 영역은 어디까지인가?

이경하 한국과학기술정보연구원 초거대AI연구센터장

임병안 기자

임병안 기자

  • 승인 2026-08-27 17:38

신문게재 2026-08-28 18면

2026070201000206300006411
이경하 한국과학기술정보연구원(KISTI) 초거대AI연구센터장
책상 서랍 깊숙이 넣어둔 미완의 원고를 다시 꺼낸 것은 순전히 개인적 호기심 때문이었다. 2018년 국제학회에서 발표한 논문 한 편이 있다. 하나의 거대한 그래프 데이터에서 서로 비슷한 수많은 질의를 동시에 처리하는 방법에 관한 연구였다. 착상은 단순했다. 여러 질의에 반복해 등장하는 공통된 조각을 찾아 한 번만 계산하고 그 결과를 여럿이 나눠 쓰게 하면 전체 계산량을 크게 줄일 수 있다는 것이다. 실제로 잘 작동했다. 이후 데이터를 결합할 때 그 결과가 원래 데이터보다 폭발적으로 커지는 경우까지 통계적 요약 기법으로 미리 가늠해 비용 계산에 반영하자 성능은 한층 좋아졌다.

문제는 그 다음이었다. "이 방법이 이론적으로 얼마나 좋은가." 공학적으로 잘 돌아가는 것과, 그것이 최적의 해답에 얼마나 가까운지를 수학적으로 증명하는 것은 전혀 다른 일이었다. 그러려면 우리가 만든 문제가 학계에 이미 보고되고 축적된 고전적 최적화 문제 가운데 정확히 무엇에 대응하는지부터 밝혀야 했다.

최적화는 제2차 세계대전을 거치며 비약적으로 발전한 학문이다. 한정된 자원으로 최대의 효과를 내야 했던 전쟁의 특수성이 운용과학이라는 분야를 낳았고, 그 흐름 위에서 수학자 조지 단치히는 1947년 펜타곤의 요청으로 군의 작전과 보급 계획을 세우기 위한 계산 기법을 고안했다. 전장에서 검증된 이 기법들은 종전 후 기업 경영과 물류망 설계, 공장 생산 라인의 효율화로 빠르게 옮겨 갔다. 내가 붙들고 있던 문제 역시 그 오래된 계보 어딘가에 놓여 있을 터였다.

나는 막연히 내 문제를 옛날에 누군가 풀었던 공장의 작업 순서를 짜는 스케줄링 문제의 변형쯤으로 짐작했을 뿐이다. 그러나 세상에 존재하는 무수한 최적화 문제를 일일이 대조하는 일은 현실적으로 불가능했다. 거기에 더해 시스템과 데이터의 특수성과 관련성이 그 대조조차 어렵게 했다. 결국 논문의 분석 부분은 빈칸으로 남았고, 그대로 5년이 흘렀다.



최근 그 질문을 인공지능에게 다시 던져 보았다. 답은 예상 밖이었다. AI는 "비슷한 문제인 것 같다"고 얼버무리지 않았다. 우리 문제의 구조를 뜯어보더니 내가 짐작했던 그 문제가 아니라고 단언했고, 정확히 어떤 계열의 스케줄링 문제인지 이름을 붙여 주었다. 나아가 우리가 임의로 고안했다고 믿었던 방식이 사실은 수십 년 전부터 연구되어 온 고전 알고리즘과 본질적으로는 같으며, 따라서 그 알고리즘이 이미 갖고 있던 성능 보장을 그대로 물려받는다는 점까지 짚어냈다. 이름 붙이지 못했던 문제에 이름이 생기자, 5년간 비어 있던 분석 부분의 뼈대가 비로소 잡혔다.

물론 여기서 멈출 수는 없다. AI가 그럴듯한 수식을 만들어내는 것과 실제로 옳은 증명을 세우는 것은 별개의 문제다. 정의와 가정을 다시 확인하고, 논리의 한 단계 한 단계가 정말 성립하는지, 기존 정리와의 대응 관계가 정확한지 검증하는 몫은 여전히 사람에게 남아 있다. 그러나 내가 느낀 놀라움은 조금 다른 곳에 있었다. AI는 정답 하나를 알려준 것이 아니었다. 내가 서 있던 자리를 옮겨 세웠다. 익숙한 문제를 낯선 관점에서 다시 보게 했고, 이미 존재하던 이론과 내 알고리즘 사이에 끊어져 있던 다리를 이어 주었다.

그래서 묻게 된다. 이제 과학자의 영역은 어디까지인가. 오랫동안 연구자의 핵심 역량은 문제를 풀어낼 방법을 찾아내는 능력이었다. 그러나 푸는 일을 기계가 점점 더 잘하게 된다면, 사람에게 남는 것은 어떤 문제가 풀 만한 가치가 있는지 가려내고 그 문제를 어떤 관점에서 바라볼지 정의하는 능력일 것이다.





5년간 비워 두었던 원고의 마지막 장을 다시 열며 조금은 서늘하고, 동시에 몹시 흥미로운 생각이 들었다. 질문을 세우는 자리, 어쩌면 그곳이 앞으로 과학자가 지켜야 할 마지막이자 가장 중요한 영역인지도 모른다. /이경하 한국과학기술정보연구원 초거대AI연구센터장

중도일보(www.joongdo.co.kr), 무단전재 및 수집, 재배포 금지

기자의 다른 기사 모음 ▶