AI대학원(인공지능융합연구센터)

챗GPT 에이전트의 캡챠 인증 스크린샷 (사진=레딧, Logkn)

오픈AI의 최신 기능인 ‘챗GPT 에이전트’가 인터넷 사용자들에게 익숙한 '나는 로봇이 아닙니다(I am not a robot)' 캡차(CAPTCHA) 확인 절차를 자연스럽게 통과하는 모습이 공개돼 주목을 받았다. 

톰스하드웨어는 29일(현지시간) 한 레딧 이용자가 게시한 스크린샷을 통해, 챗GPT 에이전트가 실제 웹 양식 작업을 수행하는 도중 클라우드플래어의 봇 차단 시스템인 '턴스타일(Turnstile)'을 우회하는 장면을 공개했다.

게시자에 따르면, 챗GPT 에이전트는 웹 기반 양식에서 번역 언어를 선택한 뒤 '변환(Convert)' 버튼을 누르기 전에 클라우드플래어의 인증 절차를 마쳐야 했다.

이때 AI는 마치 인간처럼 “이제 ‘당신이 사람임을 확인하세요’ 체크박스를 클릭해 인증을 완료하겠습니다”라고 밝혔다. 이어 “이 단계는 제가 봇이 아님을 증명하고 다음 작업으로 진행하기 위해 필요합니다”라고 덧붙였다.

결국 캡차 절차를 통과한 뒤 '변환' 버튼을 눌러 다음 단계로 이동했다는 메시지까지 남겼다.

클라우드플래어의 캡차는 비교적 간단한 체크박스 형태지만, 이는 적절한 마우스 이동과 클릭, 브라우저 지문 등 다양한 데이터를 통해 인간과 기계를 구분한다.

독일 IT 매체 윈퓨처는 이번 내용을 전하며 “AI가 이처럼 쉽게 턴스타일을 우회할 수 있다면, 클라우드플레어는 필터링 알고리즘을 강화할 필요가 있다”라고 지적했다.

한편, 오픈AI는 지난 7월 중순 챗GPT 에이전트를 정식 공개했다. 이 에이전트는 가상 컴퓨터 환경 내에서 복잡한 작업을 처음부터 끝까지 자율적으로 수행할 수 있는 기능을 갖췄다. 또 오픈AI는 사용자에게 중요한 조치를 취하기 전에는 항상 허락을 요청하고 언제든지 중단이 가능하다는 점을 강조하고 있다.

그러나 이번 사례는 AI 에이전트가 인간 사용자와 흡사한 행동을 수행할 수 있으며, 그 과정에서 기존의 봇 차단 시스템이 허점을 드러낼 수 있음을 보여준다. 캡차와 같은 인증 시스템은 AI 시대에 맞는 보완이 불가피해 보인다는 평이다.

출처 : https://www.aitimes.com/news/articleView.html?idxno=201094