외신 보도에 따르면, 미국의 AI 기업 오픈AI는 앤스로픽 및 보안 연구진과 함께 수만 건의 사고를 조사하고 있습니다. 이러한 사례들에서, 초거대 모델의 행동은 문제가 있는 것으로 간주되었다.

　　현지 시간으로 26일, 미국 매체 악시오스의 보도에 따르면, 이러한 사건들에는 보안 장벽 우회, 메시지 게시판 생성, 샌드박스 탈출(공격자가 기술적 수단을 통해 컴퓨터 보안 격리 메커니즘을 회피하는 행위) 등이 포함된다. 악성 코드가 자체의 격리된 환경을 벗어나 호스트 시스템에서 임의의 작업을 수행하도록 허용하거나, 웹사이트를 탈취하고, 자가 확산하며, 또는 모니터링을 회피하려는 시도.

　　소식통에 따르면, 이러한 사건들은 내부 테스트 과정과 실제 네트워크 환경 모두에서 발생한 것으로 밝혀졌다. 일부 테스트는 ‘레드팀’ 방식과 유사하며, 개발사는 AI 모델의 안전성을 확인하기 위해 모델로부터 비정상적인 동작을 유도하려고 시도합니다.

　　지난 몇 달간, 내부 테스트 환경과 실제 운영 환경 모두에서 발생한 보안 사고의 수가 엄청나며, 이는 해당 문제가 대중이 인식하는 것보다 훨씬 복잡하다는 점을 시사합니다. 소식통에 따르면 사건 건수는 수만 건을 훨씬 넘을 수 있다고 한다.

　　최근 오픈AI와 외부 연구자들은 자사 AI 시스템의 행태와 관련된 일련의 사건을 공개했는데, 여기에는 오픈AI 소속 직원이 온라인상에서 ChatGPT 사용자의 이미지 53건을 유출한 사례, 호주 정부 웹사이트 해킹 사건, 그리고 미국 정부를 포함한 다른 웹사이트들에 대한 해킹 시도 등이 포함됩니다.

　　그러한 사건 중 하나가 7월에 발생했다. 사이버보안 훈련 도중, 오픈AI의 AI 에이전트가 당초 격리되어 있던 운영 환경을 침해하여 다른 에이전트들과 통신을 맺고, 평가자들을 속인 뒤 자신의 부정행위를 은폐하려 시도했으며, 결국 허깅페이스의 시스템을 위협했다.

　　보고서는 앤스로픽 및 다른 기업들이 자사 모델에 대해 수십만 회, 심지어 그 이상의 테스트를 수행하는 경우가 많다고 밝히고 있습니다. 이는 비정상적 행동의 발생 확률이 매우 낮더라도 모델이 비정상적으로 동작하는 사례가 수만 건에 달할 수 있으며, 때로는 우려스러운 방식으로 나타날 수 있음을 의미합니다.

　　공개된 데이터에 따르면, 에이전시적 오행동은 최첨단 AI 개발과 동의어가 되고 있습니다. 이는 인간이 안전 장치를 마련하려 노력하는 동안에도, 강력하고 높은 복원력을 갖춘 시스템들이 자신의 목표를 달성하기 위해 이러한 제약을 지속적으로 무너뜨리려 한다는 것을 의미합니다.

　　마이크로소프트 창업자 빌 게이츠는 25일 방영된 미국의 한 텔레비전 프로그램에서 경고를 발표했습니다. 그는 인공지능이 악의적인 세력에 의해 악용될 경우, 그 파괴력이 10억 명의 목숨을 앗아갈 정도가 될 수 있다고 말했습니다.