구글, 마이크로소프트 등 빅테크들의 AI 전략이 계속해서 발표되는 가운데 나스닥이 사상 최고치를 거듭 경신하고 있습니다. AI 기술에 대한 시장 기대감이 최고조에 이르고 있다는 방증입니다. AI가 생산성을 향상시키고 인간이 더 창의적인 일에 몰두할 수 있게 해 줄 것이란 장밋빛 전망이 기업들의 대규모 투자를 이끌고 있는 가운데, 일각에선 '안전'에 대한 우려의 목소리도 나오고 있습니다.

오픈AI가 최근 선보인 'GPT-4o'는 보고 듣고 말하며 사람과 의사소통하는 모습으로 큰 주목을 받았습니다. 샘 알트만 오픈AI 최고경영자(CEO)는 'Her'라는 한 단어를 트윗하며 인간과 AI의 사랑을 그린 영화 '그녀(Her)'를 떠올리게 했습니다. 그런데 공교롭게도 GPT-4o에서 지원하는 목소리 중 '스카이(Sky)'라는 캐릭터가 영화에서 AI 목소리를 연기한 배우 스칼렛 요한슨의 음성과 너무 닮았다는 지적이 나오기 시작했습니다. 스칼렛 요한슨 본인조차 자신과 목소리가 너무 닮아 소름이 끼친다며 법적 대응까지 시사했고, 오픈AI는 스카이 사용을 중단시킨 상태입니다.

누군가의 목소리를 훔쳐 AI로 만들 수 있다니, 두려운 일입니다. 어제 마이크로소프트 '빌드 2024' 행사에 등장한 샘 알트만은 이 사건을 의식한 듯 AI 안전에 대해 "앞으로 해야 할 일이 더 많다"면서도 "GPT-4는 다양한 용도로 사용할 수 있을 만큼 충분히 안전하다"고 강조했습니다. 과연 믿어도 될 지 모르겠네요. 스탠퍼드대의 인간중심 인공지능 연구소(HAI)가 주요 파운데이션 모델 14개의 투명성 지수를 조사한 결과에 따르면, 오픈AI GPT-4는 10위에 머물렀습니다. HAI 연구진은 "LLM의 원동력이 되는 데이터의 투명성이나 실제 영향력 측면에서 진전이 거의 없다는 사실에 다소 실망했다"는 연구 소감을 전했습니다.

생성형 AI 챗봇의 대답 속에 저 모르게 제 기사 내용이 들어가 있을 수도 있겠죠. 누군가 교묘히 편향적인 내용을 계속 퍼트려 AI가 덜컥 배우게 될 지도 모릅니다. 앞으로 AI 비서가 보편화되면 사용자들은 AI가 말하는 내용들을 그대로 수용하게 될 가능성이 커질 것입니다. 이에 네이버 창업자인 이해진 글로벌투자책임자(GIO)는 'AI 서울 정상회의'에서 '과거를 지배하는 자는 미래를 지배한다. 현재를 지배하는 자는 과거를 지배한다'는 조지 오웰의 소설 '1984'의 구절을 인용하며 "극소수 AI가 현재를 지배하게 되면 과거 역사, 문화에 대한 인식은 해당 AI의 답으로만 이뤄지게 되고 결국 미래까지 해당 AI가 큰 영향을 미치게 된다"고 지적했습니다.

우리의 미래가 AI에게 달려있다면 더 이상 안전에 대한 문제를 등한시 해선 안 될 것입니다. 어제 열린 AI 서울 정상회의에서 각국 정상들은 '안전하고 혁신적이며 포용적인 AI를 위한 서울 선언'을 도출했습니다. 각국은 서울 선언을 통해 AI 거버넌스의 3대 우선 목표로 안전·혁신·포용을 제시하고, 각국 AI 안전연구소 간 네트워크를 조성해 글로벌 협력을 촉진하자는 데 뜻을 모았습니다. 앞으로 AI 기술 혁신만큼 중요한 아젠다가 안전과 규범인 만큼, 이번 서울 선언을 계기로 대한민국과 국내 기업들이 글로벌 AI 규범 정립에 있어 리더십을 갖게 되길 기대해봅니다.