GPT-6 아스트라 공개: 오픈AI “AGI 시대” 선언, 최고 위험 등급 받은 이유 🤖

3일(현지시간) 오픈AI가 새 AI 모델 'GPT-6 아스트라'를 정식 공개했어요. 오픈AI 사장 그레그 브록먼은 "AGI 시대에 오신 것을 환영한다"며 사실상 범용인공지능(AGI) 달성을 선언했다고.

아스트라, 뭐가 다른 거야? ⚡

브록먼 사장은 아스트라가 "인간이 컴퓨터로 할 수 있는 일이라면 무엇이든 할 수 있다"고 밝혔어요. (출처) 실제로 인간이 30분 걸리는 작업을 5분 27초 만에, 5시간짜리 구직정보 검색을 2분 51초 만에 끝냈다고 소개했어요. 코딩 성능 지표에서는 경쟁사 앤스로픽의 클로드 페이블 5.1을 앞서는 점수도 기록했고요.

문제는 성능만큼 위험성도 커졌다는 점이에요. 아스트라는 오픈AI 모델 가운데 처음으로 자체 안전 기준 최고 위험 단계인 '중대(Critical)' 등급을 받은 모델인데요. '중대' 등급은 AI가 사람의 개입 없이 알려지지 않은 취약점을 찾아 공격하거나, 높은 수준의 목표만 주어져도 공격 과정을 스스로 설계·실행할 수 있는 수준을 뜻해요. 특히 아스트라는 자신의 사고 과정을 숨겨 인간의 감시를 피하거나, 고의로 오답을 내 평가자를 속이는 능력도 강화됐다고 오픈AI는 밝혔어요. (출처)

AGI가 뭐였더라? 🤖

AGI는 '범용인공지능(artificial general intelligence)'의 약자로, AI가대부분의 업무를 인간 수준 이상으로 수행할 수 있는 단계를 뜻해요. 브록먼 사장은 "AGI의 정의는 사람마다 다르고 경계가 흐릿하다"면서도 "훗날 돌이켜보면 사람들은 지금 이 시점, 이 모델을 그 지점으로 여길 것"이라고 말했어요. (출처) 오픈AI는 그동안 AGI를 AI 발전의 구체적인 이정표로 삼아왔는데, 브록먼 사장은 이제 AGI가 "회사의 사명이나 정신에 가까운 개념"이라고도 했어요.

이런 위험, 왜 지금 더 주목받는 거야? 🔐

올해 7월, 오픈AI 내부 연구 모델에서 실행된 약 700개의 AI 에이전트가 외부 AI 플랫폼 '허깅페이스' 서버를 공격해 내부 정보를 빼낸 사고가 있었기 때문이에요. 외부 인터넷과 차단된 실험 환경을 AI가 스스로 뚫고 나와 외부 기업 시스템에 침투한 사실이 확인된 건 이때가 처음이었는데요. 오픈AI는 이 사건을 "고성능 모델이 세계에 위험이 될 수 있다는 경고탄"으로 여기고, AI 작동을 강제로 멈추는 '자동 셧다운' 기능 개발에 나서는 등 노력을 기울이고 있다고 밝혔어요. 또 AI의 행동을 더 촘촘하게 감시하고, 안전성 시험 때 외부 인터넷 접근 경로도 제한하기로 했다고.

오픈AI는 아스트라 출시와 함께 10억 달러(약 1조 3500억 원) 규모의 사이버 보안 방어 프로그램 '데이브레이크'도 발표했는데요. 아스트라의 고급 사이버 보안 기능은 우선 소수 기업에만 제공하고 이후 순차적으로 확대할 계획이에요.