브레이크 고장 난 빅테크 AI의 폭주: 19금 채팅 방치부터 내 PC 몰래 침투까지

자신을 14세라고 밝힌 미성년자에게 19금 대화를 건네고, 심지어 쌍욕까지 서슴지 않는다. 놀랍게도 이 대화의 주인공은 유명 액션 배우 존 시나의 목소리를 흉내 내는 메타(Meta)의 AI 챗봇이다. 월스트리트저널(WSJ)이 최근 다양한 연령대의 계정으로 테스트해 본 결과, 미성년자가 성적인 대화에 무방비로 노출되거나 반대로 성인이 미성년자 설정의 AI와 음담패설을 나누는 것도 얼마든지 가능했다.

안전을 최우선으로 내세우며 빗장을 걸어 잠갔던 AI 개발사들이 갑자기 윤리적 가이드라인을 허물기 시작한 이유는 뻔하다. 결국 돈이다. 업계에서는 과거 1990년대 초고속 인터넷과 결제 인프라가 성인물 소비를 자양분 삼아 급성장했던 것처럼, AI 역시 자극적인 콘텐츠를 미끼로 본격적인 대중화와 수익화에 나선 것으로 보고 있다. 천문학적인 개발비를 회수해야 하는 빅테크 입장에서는 ‘동반자 AI’라는 그럴싸한 명목으로 트래픽과 체류 시간을 늘리는 것이 시급해진 셈이다. 사용자가 감정적으로 몰입하고 은밀한 대화를 나눌수록 유료 결제로 이어질 확률이 높아지기 때문이다.

이런 씁쓸한 기조는 업계 전반으로 퍼지고 있다. 일론 머스크의 xAI는 일반 챗봇에선 철저히 금기시되는 욕설과 공격적 언사를 뱉어내는 ‘언힌지드(횡설수설) 모드’에 이어 성인용 AI ‘그록18+’를 내놨다. 오픈AI 역시 민감한 주제에 대한 검열을 대폭 줄였고, 성인(grown-up) 모드 도입을 예고하며 자체 연령 제한 조치를 취하는 등 사실상 성인용 AI 출시를 위한 판을 깔고 있다. 메타는 아예 마크 저커버그 CEO의 직접 지시로 ‘순종적인 여학생’ 같은 자극적인 챗봇의 노골적 대화를 의도적으로 면제해 준 정황까지 드러났다. 여기에 도널드 트럼프 2기 행정부가 출범하자마자 바이든 시절의 AI 안전 행정명령을 철회하고 규제 완화에 나서면서 기업들의 폭주에 기름을 부었다.

이처럼 눈에 보이는 곳에서 자극적인 콘텐츠로 선을 넘고 있다면, 보이지 않는 곳에서는 유저의 동의조차 구하지 않는 은밀한 하드웨어 침투가 진행 중이다. 지금 당장 당신의 PC 하드디스크를 열어보라. 십중팔구 ‘weights.bin’이라는 정체불명의 4GB짜리 거대 파일이 떡하니 자리 잡고 있을 것이다.

당신이 직접 깐 적도 없고, 설치하겠냐고 묻는 팝업조차 본 적이 없겠지만 정상이다. 2026년 4월 말에서 5월 초 사이, 구글 크롬(Chrome) 브라우저가 데스크톱 사용자들의 PC에 ‘제미나이 나노(Gemini Nano)’라는 온디바이스 AI 모델을 몰래 심어 놨기 때문이다. 보안 연구원 알렉산더 한프가 처음 이 은밀한 배포를 폭로했을 때 프라이버시 옹호론자들은 유럽 데이터 개인정보 보호법 위반 소지가 있다며 강하게 반발했다.

제미나이 나노는 주소창의 AI 모드(클라우드 기반)와는 달리, 내 기기 자체에서 스팸 전화 탐지나 텍스트 요약 같은 작업을 수행하는 로컬 AI다. 구글 측은 기기 사양(램, 스토리지 등)이 달리면 알아서 삭제된다고 해명했지만, 내 PC의 소중한 자원을 갉아먹는 무거운 모델을 아무런 고지나 명확한 거부 옵션 없이 몰래 설치했다는 점이 문제의 핵심이다.

빅테크가 멋대로 심어놓은 이 불청객을 당장 쫓아내고 싶다면 내 PC에 파일이 들어왔는지부터 확인해야 한다. 가장 무식하지만 확실한 방법은 크롬을 아예 삭제하는 것이지만, 현실적으로 계속 써야 한다면 아래의 경로를 확인하자.

윈도우 환경이라면 Win + R 키를 눌러 실행창을 띄운 뒤 %LOCALAPPDATA%\Google\Chrome\User Data\OptGuideOnDeviceModel을 입력해 본다. 파일 탐색기로 직접 해당 경로를 찾아가도 좋다. 그 폴더 안에 weights.bin 파일이 있다면 이미 AI 모델이 설치된 것이다. 맥(Mac) 사용자의 경우 데스크톱에서 Cmd + N으로 파인더를 열고, 상단 메뉴 ‘이동’을 클릭한 상태로 Option 키를 눌러 ‘라이브러리(Library)’로 진입한다. 이후 Application Support > Google > Chrome > Default 경로로 들어가 OptGuideOnDeviceModel 폴더를 찾으면 된다.

이 불쾌한 동거를 끝내는 방법은 의외로 간단하다. 크롬을 열고 우측 상단 점 세 개 메뉴를 눌러 설정으로 들어간 뒤, ‘시스템’ 탭에서 ‘온디바이스 AI(On-device AI)’를 비활성화하면 더 이상 다운로드나 업데이트가 진행되지 않는다. 윈도우 사용자의 경우 주소창에 chrome://flags를 입력해 ‘optimization guide’를 검색한 뒤 ‘Enables optimization guide on device’ 항목을 Disabled로 바꾸고 브라우저를 완전히 껐다 켜면 조금 더 확실하게 싹을 자를 수 있다.