이제현

한국에너지기술연구원 에너지AI·계산과학실장

정보 공유를 목적으로 사람들이 모인 단톡방에는 다양한 링크가 올라온다. 누군가 올린 링크에 가장 먼저 반응하는 것은 사람들 틈에 끼어 있는 AI 봇. 링크가 올라옴과 동시에 내용을 요약해 준다. 사람보다 빠르게 읽고 요약해 주는 생성 AI의 능력은 보고서 작성에서 빛을 발한다. 요즘은 제목만 입력하면 자료를 수집해 글을 작성하고 서식대로 정리해 주는 AI 에이전트를 활용할 수 있다. 인간 신입보다 빠르고 몸값이 저렴할 뿐 아니라 감정 노동이 불필요하다는 점에서 경쟁력이 월등하다.

최근 활용되는 다중 감각 AI는 언어뿐 아니라 시각과 청각으로 인류와 소통하는 기술로, IT와 거리가 멀었던 이들에게도 친근하게 다가간다. 단순 번역이나 요약 같은 작은 일을 맡아 성과를 보여주고 차츰 더 큰 일을 해내는 과정을 반복하면서 전적인 신뢰를 획득하는 단계로 올라선다. 기존의 기계, 전기, 인터넷이 보급될 때와는 달리 인간간 신뢰 구축 프로세스와 매우 유사하다.

그러나 이들이 만드는 실수 또한 인간과 흡사하다. 요약문을 만들면서 원문의 긍정과 부정을 뒤바꾸거나 원저자의 조심스러운 추측을 사실로 단정하며 단위 변환을 틀린다. 하지만 문제를 발견하기는 쉽지 않다. 이들이 주는 근원적인 효익을 포기하고 직접 원문을 꼼꼼히 읽으며 요약본을 대조해야 하기 때문이다. 인류는 과거에도 가족의 전화번호를 외우는 능력과 길을 찾는 능력을 각기 휴대전화와 내비게이션에 양도한 바 있다. 기술 발전에 따른 자연스러운 흐름이 다시 한번 발동되는 것이라 볼 수 있겠지만 오늘날의 AI는 기업 운영과 공공 행정을 넘어 인류가 세상을 바라보는 시각 자체에 영향을 미치고 있다는 점에서 영향력을 비교할 수 없다. 이미 유튜브의 알고리즘 편향만으로도 실세계에서 심각한 문제를 일으키고 있다.

AI가 너무나 강해져서 인류를 지배하게 되기 전에, 인류 스스로 AI가 보여주는 것과 들려주는 것에 스스로 둘러싸이는 길을 택하는 자발적 지배의 길로 들어서고 있는 것이 아닌가 하는 우려가 든다. 아무리 AI를 개발하고 운영하는 이들이 안전장치를 마련해도 매트릭스의 배양기 속으로 제 발로 들어가는 대중을 막을 수는 없기 때문이다.

다행히 AI를 사용하는 방법을 조금 바꾸는 것으로 AI를 편리하게 사용하면서도 감각의 주도권을 유지할 수 있다. 첫 번째는 요약 대신 발췌를 시키는 것이다. 원하는 정보를 특정해서 추출을 시키고, 답변을 원문의 해당 부분과 대조해 읽어보자. 원문을 찾아보면서 생략된 디테일도 확인할 수 있다. 두 번째는 근거자료를 확인하는 것이다. 최신 AI들은 답변과 함께 웹에서 찾은 근거 자료를 인용한다. AI의 답변을 그대로 사용하지 말고 반드시 근거를 확인하며, AI 답변을 활용할 때도 원문을 인용해 정보 생산자들에게 힘을 실어주자. 마지막으로 본인의 지식과 경험에 비추어 스스로 생각하는 것이다. 노련한 관리자는 실무자를 방해하지 않으면서도 탈선하지 않도록 중요 지점들을 확인한다. “믿고 맡겼더니 일을 이렇게 만드냐”고 호통을 치는 관리자가 있다면 그건 관리 책임을 소홀히 한 본인 탓이다. AI와 일할 때도 마찬가지다.

새해가 되면 많은 이들이 금연과 운동을 결심한다. AI에게 지배당하지 않도록, 독서, 사색과 함께 대화를 시작해 보자.

기사원문링크 : [IT과학칼럼] AI에게 지배당하지 않으려면 - 헤럴드경제