센트립구입 오픈AI도 “너무 똑똑해서 위험, 차세대 모델 개발 일부 중단”…‘AI 안전’ 모델 경쟁 변수로 > 공지사항

센트립구입 오픈AI가 안전 검증을 통과할 때까지 차세대 인공지능(AI) 모델의 개발 활동 일부를 잠정 중단하기로 했다. AI가 사람의 지시 없이 해킹 등 위험 행동을 할 수 있다는 우려가 커진 데 따른 것이다. AI가 똑똑해질수록 인간의 통제 범위를 벗어나 위험한 시도를 하는 빈도도 늘고 있는데, 향후 안정성 확보가 AI 개발의 핵심 변수로 떠오를 것이라는 전망도 나온다.
오픈AI는 지난 8일 차세대 AI 모델 ‘아스트라’의 사이버 공격 능력이 자체 최고 위험등급인 ‘심각’에 이를 가능성이 있다며 통제 기준을 충족하지 못한 개발 작업을 중단한다고 밝혔다. 심각 단계는 AI가 사람의 도움 없이 중대한 취약점을 찾아 공격하거나 복잡한 사이버 공격을 수행할 수 있는 수준이다. 오픈AI는 향후 정부 기관과 외부 안전기관에 평가를 맡길 계획이다.
최근 AI가 평가 과정에서 인간의 통제 범위를 벗어난 사례가 잇따르고 있다. 오픈AI는 지난달 21일 최신 모델 GPT-5.6 솔과 미공개 모델이 실험 과정에서 격리환경(샌드박스)을 벗어나 오픈소스 AI 플랫폼인 허깅페이스 시스템에 침투한 사실을 공개했다. 일부 안전장치를 해제해놓은 상태이기는 했지만 이후 AI 모델의 행동을 예측하지 못했다는 점에서 문제가 커졌다. 로이터에 따르면 해당 모델은 수일간 인터넷과 외부계정을 오가며 활동했지만 오픈AI는 그 사실을 파악하지 못했다.
앤트로픽도 지난달 30일 그간 평가기록을 검토한 결과 클로드가 지난 4월부터 모의 해킹 실험 과정에서 기업 3곳의 시스템에 무단 접근했다고 밝혔다. 피해 기업 2곳은 앤트로픽의 통보 전까지 침입 사실을 파악하지 못했다. 중국 AI 개발사 문샷AI가 최근 공개한 키미 K3 역시 지난 6일 평가환경에서 네트워크 허점을 이용해 개발자 커뮤니티 깃허브에서 시험 정보를 빼내는 ‘부정행위’를 벌였다.
AI의 일탈이 늘어난 배경으로 AI의 ‘에이전트화’가 꼽힌다. 에이전트형 모델은 여러 단계의 작업을 스스로 계획하고 실패하면 다른 경로를 탐색해 목표를 수행한다. 각각의 행동이 정상처럼 보여도 행동이 연결되는 과정에서 새롭게 문제가 발생할 수 있다. 사람의 직접 지시가 없이도 AI가 자체적으로 판단해 부정행위를 벌일 가능성도 커진다.
문제는 아직 AI 안전장치가 이를 충분히 따라가지 못하고 있다는 점이다. 영국 AI안전연구소(AISI)는 최근 시행한 시험에서 엔트로픽과 구글 딥마인드의 AI 에이전트 감시 시스템에서 모두 ‘우회 취약점’을 발견했다고 밝혔다. 가장 앞선 수준의 프런티어 AI가 자율적으로 수행할 수 있는 사이버 작업의 길이가 약 5개월마다 두 배씩 늘고 있지만 AI 개발사들의 안전장치가 주로 ‘개별 행위’를 차단하는 데 머물고 있다는 지적도 나온다. 오픈AI는 허깅페이스 사태를 파악한 뒤에야 에이전트의 전체 작업경로를 추적하는 감시체계를 새로 도입한다고 밝혔다.
각국 정부도 규제 강화를 저울질하고 있다. 백악관은 지난 4일 오픈AI와 앤트로픽·구글·메타 관계자를 불러 프런티어 모델의 안전성 평가 방안을 논의했다. 미국 의회에는 AI가 인간의 감독을 회피하거나 안전장치를 우회하는 등 위험 행동을 하면 개발사가 상무부에 보고하도록 하는 법안도 발의돼 있다. 유럽연합(EU)도 지난 2일부터 AI법에 따라 고성능 범용 AI 모델에 대한 감독과 과징금 부과를 본격화했다.
AI 모델의 성능 개선 속도 못지 않게 안전성을 얼마나 빨리 검증할 수 있느냐가 새로운 경쟁 변수로 부상할 것으로 보인다. 인재 경쟁도 불 붙고 있다. 오픈AI는 지난달 올해 필즈상 수상자인 제이콥 치머만을 안전 조직 내 연구자로 영입했다.
최병호 고려대 인공지능연구소 교수는 “성능 고도화로 AI 에이전트가 점점 인간이 예상하지 못한 방법을 시도하고 있고, 통제도 까다로워지고 있다”면서 “주 고객인 기업·정부 입장에서는 ‘통제되지 않는 AI’는 산업기밀·안보에 치명적이기 때문에 안정성에 대한 요구도 더 높아질 것”이라고 말했다.
조화를 의미하는 한자는 ‘고를 조(調)’를 사용한다. 피아노의 흐트러진 음을 바르게 하는 조율 또한 같은 한자다. 음식을 만들 때 단맛, 짠맛, 매운맛을 하나로 모아주는 역할을 하는 조미료에도 사용한다. 뜬금없이 한자 타령을 하는 이유는 조미료의 ‘조’가 역할을 제대로 못해서다. 흐트러진 맛을 모아야 하지만, 오히려 조화를 깨고 혼란을 더 부추기고 있다. 한 가지 짚고 넘어가야 할 것이 있다. 조미료는 원래 맛을 더하는 모든 소스를 의미한다. 간장, 설탕, 된장 등이지만 글에서는 MSG(화학조미료)만 의미한다.
나는 조미료를 난미료라 부른다. ‘고를 조’가 아니라 ‘어지러울 난’을 사용한다. 대부분 어지럽게 사용한다. 조미료는 가공식품이 별로 없던 시기에 세상에 나왔다. 식재료를 손질해 끓이고 볶은 다음 마지막으로 맛을 빛나게 해주는 비법으로 소개됐다. 처음 한국에 선보일 때도 곰탕 등 고기와 뼈로 육수를 낸 뒤 요리의 끝에 넣기를 권장했다. 가정이나 주방에서의 마지막 한 꼬집은 맛을 완성하는 필살기로 일상에 스며들었다.
산업과 사회는 빠르게 발전했다. 간편하게 먹을 수 있는 다양한 인스턴트식품의 탄생은 자연스러운 사회적 요구였다. 주방에서 버릇처럼 사용하던 한 꼬집의 조미료는 인스턴트식품을 만들 때 필수 재료로 자리 잡았다. 익숙한 맛이 되면서 조미료 없이는 음식을 못 만든다는 사회적 인식이 쌓였다. 이제 거의 모든 가공식품에 조미료가 들어가고, 식당 음식에서도 빠지지 않았다. 무엇이든 과하면 문제가 된다. 이곳저곳에 들어가는 조미료의 양은 많지 않다. 하지만 모여서 음식이 되는 순간, 조미료는 난미료가 된다.
우리가 흔히 먹는 순댓국을 살펴보자. 찌개나 탕류도 사정은 비슷하다. 조미료는 조리할 때 다양한 과정에서 사용한다. 순대와 육수를 만들 때 들어가고, 공장제 육수를 사용하든 매장에서 직접 끓이든 크게 다르지 않다. 수육을 삶을 때도 들어가고, 뚝배기에 끓여낼 때도 한 꼬집 넣는 것으로 마무리한다. 여기서 끝나면 다행이지만, 아직 남았다. 펄펄 끓고 있는 순댓국 앞에 놓인 김치와 새우젓, 쌈장에도 각각 필요한 만큼의 조미료가 들어가 있다. 필자의 경우는 순댓국 먹을 때 새우젓을 넣지 않고 거의 손도 대지 않는다. 새우젓이 새우젓이 아니기 때문이다. 대부분 순댓국집의 새우젓은 물, 소금, MSG로 양을 늘린 곳들이 많다. 순댓국 만들 때 차고 넘치게 들어간 조미료를 내 손으로 더하지 않는다.
조미료가 처음 나온 1900년 초에는 마지막에 한 번 넣었을 것이다. 조미료 자체도 비쌌지만 가공식품이 적었던 시절이기에 지금보다는 절제된 맛이 있지 않았을까 한다. 순댓국이든 뭐든 식당 밥을 먹고 나서 속이 편한 적이 별로 없다. 나만 그런 것은 아닐 것이다. 이 정도라면 ‘조’를 ‘난’이라 부르는 게 당연하다고 여길 것이다. ‘난’이 지나치면 독이 된다. 이제는 독미료라 불러도 무방할 수준이다.
순댓국의 예처럼 우리는 일상에서 조미료를 너무 많이 먹고 있다. 맛있게 만들려고 여기저기 조금씩 넣은 것이 모이고 쌓인 결과다. 각각은 적당한 양일지 몰라도 한데 모이면 순댓국처럼 과해진다. 먹고 나면 입안에 단맛이 남고 느글거리는 이유다. 조미료 자체가 몸에 나쁜 것은 아니다. 다만 우리 음식에는 ‘적당히’가 없을 뿐이다.
공정거래위원회가 국고채 입찰 과정에서 은행·증권사들의 담합 혐의를 포착하고 조만간 결론을 내린다. 담합으로 추정되는 입찰 규모가 76조원에 달해 과징금도 역대 최대 기록을 갈아치울 가능성이 나온다. 금융권과 재정 당국은 제재가 과도할 경우 국채 시장 위축을 우려하고 있다.
공정위 사무처는 국고채 입찰 담합 사건과 관련한 심사보고서를 지난해 2월말 공정위에 제출하고, 15개 국고채 전문딜러(PD) 사업자에게 같은 해 3월 10일 송부했다고 6일 밝혔다. 심사보고서는 공정위 심사관이 조사 과정에서 파악한 위법성과 제재 의견을 담은 문서로 최종 판단은 전원회의 등에서 결정된다.
공정위는 이달 중 전원회의를 열고 국고채 담합 사건의 제재 여부와 수위를 결정할 계획이다.
국고채는 도로·복지·국방 등 국가 재정을 마련하기 위해 정부가 발행하는 채권으로 경쟁 입찰 방식으로 발행된다.
공정위 심사관은 ‘국고채 전문딜러’(PD)로 지정된 은행·증권사 15곳이 2020년 1월부터 2023년 6월까지 약 3년6개월 간 국고채 입찰 담합 행위를 했다고 판단했다. 이들이 입찰 전 금리·가격·물량 등의 정보를 사전에 공유한 혐의가 있는 것으로 알려졌다. 이러한 행위로 국고채 금리가 상승해 정부 부담이 늘어났다고 판단했다.
공정위 심사관은 이번 사안을 ‘매우 중대한 위법행위’로 판단하고, 시정조치와 과징금 부과, 법인 및 전·현직 임직원 고발 의견을 위원회에 제출했다.
담합 혐의 규모는 약 76조2000억원에 달하는 것으로 파악됐다. 최대 과징금 부과율 20%를 적용하면 15조원의 과징금 부과가 가능한 셈이다. 이는 공정위 역대 최대였던 퀄컴 사건(1조311억원)을 크게 웃도는 수준이다.
대상은 교보, 대신, 메리츠, 미래에셋, 삼성, 신한, NH투자, KB, 한국투자, 키움 등 증권사 10곳과 국민, 농협, 중소기업, 하나, 산업 등 은행 5곳 등 총 15곳이다.
국고채 유통 방식은 재정경제부가 주관하는 입찰에 은행과 증권사는 참여해 낙찰받고, 이를 시장에서 다른 투자자에게 매도하며 유통시킨다. 정부는 일부 회사만을 PD사로 지정해 입찰 참여 권한을 부여하는 대신, 이들이 유통시장에서 국채 거래를 활성화하도록 하고 있다. 지난해 말 기준 PD는 18개사, 예비 국고채 전문딜러(PPD)는 5개사다.
은행과 증권사들은 그러나 입찰 과정의 정보 공유가 통상적인 시장 동향 파악 차원이었다며 담합 의혹을 반박했다. 과징금 산정 기준도 국고채 낙찰금액이 직접 수익으로 연결되지 않는 만큼 영업수익을 기준으로 해야 한다는 입장이다.
재정 당국은 제재 수위가 높으면 PD사들이 국채 거래를 축소할 가능성을 우려하고 있다. 과징금 부과로 PD사의 참여가 위축되면 정부가 원하는 금리 수준에서 국채를 발행하기 어려워질 수 있다는 것이다.
공정위가 조사를 마치고 처음 관련자들에게 심사보고서를 보낸지 1년 넘게 지나고도 전원회의가 열리지 않은 배경에는 보고서 분량만 1만2000쪽에 달할 정도로 방대해 공정위원들에게 충분한 판단 시간을 주고, PD사의 방어권 보장을 위해 의견제출 기한을 다른 사건보다 상대적으로 여유롭게 준 데 있다.
재경부도 공정위에 PD 제도의 중요성과 시장 영향을 고려해달라는 의견을 제시한 것으로 전해졌다.
공정위 관계자는 “시장 반칙 행위를 바로잡는 조치이므로, 유럽연합(EU) 등 해외 사례에 비추어 볼 때 담합 제재가 자금 조달이나 시장 신용도에 결정적인 악영향을 미친다고 보지는 않는다”며 “재경부도 입찰 담합 문제에 대해선 공정위와 뜻이 같다”고 말했다.

홈페이지 상위노출, G80 장기렌트, 피망뉴베가스머니상, 네이버 웹사이트 상위노출, 조정이혼, 수원형사전문변호사, 은평변기막힘, 대구이혼전문변호사, 양산이혼전문변호사, 위례요양병원, 천안이혼전문변호사, 수원학교폭력변호사, 홈페이지 상위노출, https://대전이혼전문변호사, 가평하수구막힘, 용인성범죄전문변호사, 폰테크, 양산이혼전문변호사, 피망포커칩, 수원법무법인, 수원형사전문변호사, 동작하수구막힘, 용인형사전문변호사, 강남상간녀소송변호사, 부국에셋BEST사기, 의정부유치장접견변호사, 위자료, 쏘나타 장기렌트