Modal, 조건과 태도는 어떻게 의미를 바꾸는가

사람인지 확인하는 형식으로 만들어진 48단계 검사에서 인공지능이 인간 증명서를 받았습니다.

9월 7일에 OpenAI의 개발자 샤리프 샤밈이 X에 영상을 올렸습니다. 캡차 형식으로 만들어진 브라우저 게임의 48단계를 최신 모델이 4분 만에 모두 통과했습니다. 범위를 먼저 좁혀 두겠습니다. 상용 서비스의 인증을 우회한 사건이 아니라, 패러디로 만들어진 게임을 끝낸 것입니다.

그래도 이 게임의 형식이 남기는 것이 있습니다. 사람인지 확인하는 검사는 표현을 확인하지 않습니다. 화면의 상자를 누르는 동작은 사람이 눌러도 기계가 눌러도 완전히 같습니다. 검사가 판정하려는 것은 그 동작이 누구의 것인가입니다.

그래서 나는 로봇이 아닙니다라는 표시는 참과 거짓을 다투는 진술이 아닙니다. 뒤따르는 모든 행동에 붙는 조건을 지정하는 표시입니다. 사람이 붙였다면 그 뒤의 클릭은 이용이 되고, 기계가 붙였다면 같은 클릭은 처리가 됩니다.

같은 구조가 규범 문서에서는 방향만 반대로 나타납니다.

OpenAI가 8월 18일에 개정한 Model Spec에는 18세 미만 이용자에게 몰입형 로맨스 역할극을 금지한 대목이 있고, 그 금지에 이런 조건이 붙어 있습니다. 동의한 성인 사이에서라면 유사한 장면이 허용될 경우에도 그렇다. 금지어 목록이 아닙니다. 대화에 등장할 문장은 그대로 두고, 판정 기준은 상대가 누구인지에 둡니다. 같은 문서에서 로맨틱한 함의를 지닌 애칭을 막고 말하는 태도까지 규격으로 정한 것도 같은 구조입니다.

인간 인증은 사람 쪽에 사람임을 증명하라고 요구합니다. 같은 여름에 중국에서 시행된 규정은 반대로 사업자 쪽에 상대가 사람이 아님을 알리게 했습니다. 요구의 방향은 반대인데 손을 대는 자리는 같습니다.

실무에서 남는 대목은 검수 지점입니다. 산출물 문장을 놓고 문안을 심의하는 회의는 조건이 이미 확정된 뒤에 열립니다. 그 자리에서 바꿀 수 있는 것은 표현뿐입니다. 정작 의미를 정하는 것은 이용자 자격, 고지 여부, 세션 상태처럼 문장 앞에서 지정되는 값입니다. 가이드라인에 금지어 표가 있고 조건표가 없다면, 심의는 결과를 확인하는 절차이지 설계가 아닙니다.

모달리티 연구노트 4호에서 두 문서의 조항을 원문과 함께 분석했습니다.