Q. AI가 해킹도 해? AI 해킹은 어디까지 왔어?

프랑스 슈퍼마켓의 냉장고와 냉동고가 해킹당해 하룻밤 사이 온도가 50도까지 올라갔다는 프랑스 마트 냉장고 해킹 사건 뉴스를 보고, ‘AI(Artificial Intelligence·인공지능)가 한 걸까?’ 하는 궁금증이 생겼습니다. 몇몇 기사가 AI가 스마트 가전을 노릴 수 있다는 경고를 함께 실었거든요. AI가 해킹도 할까? 한다면 AI 해킹은 지금 어디까지 왔을까?

짧게 답하면 이렇습니다. AI는 이미 해킹에 쓰이고 있지만, 지금까지 확인된 사례 대부분은 사람이 하던 공격을 더 빠르고 싸게 만드는 쪽이고, 같은 AI가 방어 쪽에서도 빈틈을 찾아 고치는 데 쓰이고 있습니다. AI가 공격 작업의 대부분을 맡은 사례도 나오기 시작했어요. 반면 프랑스 냉장고 사건에 AI가 쓰였다는 사실은 확인되지 않았습니다. 보도된 원인은 오래된 펌웨어(기기 안에 든 기본 프로그램)로 돌던 장비의 냉장 제어 소프트웨어 취약점(보안 빈틈)이에요.

AI 해킹 사례, 실제로 있었어?

가장 흔한 건 글과 목소리예요. 피싱(가짜 메일이나 문자로 돈이나 정보를 빼내는 수법) 문장을 AI로 자연스럽게 다듬거나, 짧은 음성만으로 가족 목소리를 흉내 내는 식입니다. 2024년 홍콩에서는 영국 엔지니어링 회사 아럽(Arup)의 직원이 화상회의에 나온 ’가짜 동료들’의 지시를 믿고 약 2억 홍콩달러를 보낸 일도 있었어요. 회사는 딥페이크(AI로 만든 가짜 얼굴과 목소리)가 쓰였다고 확인했습니다.

AI 회사들도 자기 서비스가 악용된 사례를 정기적으로 공개합니다. 오픈AI는 2025년 10월 보고서에서 공격자들이 원래 쓰던 수법에 AI를 덧붙여 속도를 올렸을 뿐, 자사 모델로 새로운 공격 능력을 얻었다는 증거는 없다고 정리했어요. 챗GPT가 사기를 만드는 데보다 가려내는 데 최대 세 배 더 많이 쓰인다는 분석도 실었고요. 앤트로픽은 2025년 8월 보고서에서 한 범죄자가 자사 AI 코딩 도구로 의료기관과 정부기관 등 최소 17곳의 데이터를 빼내고 돈을 요구한 사례를 공개했습니다.

인공지능 해킹, 사람 없이도 가능해?

한 걸음 더 나간 사례도 있습니다. 앤트로픽은 2025년 11월, 중국 정부 배후로 판단한 조직이 AI에게 작업의 80~90%를 맡긴 사이버 스파이 작전을 찾아내 막았다고 발표했어요. 사람은 목표를 고르고 중요한 갈림길에서만 결정을 내렸고, 약 30곳을 노려 일부에서 성공했다고 합니다. 다만 AI가 얻지도 않은 비밀번호나 성과를 지어내는 환각(사실이 아닌 내용을 그럴듯하게 만들어 내는 현상)이 종종 나타나 완전 자동 공격의 걸림돌이 됐다고 해요.

2026년 4월에는 앤트로픽이 새 모델 ’클로드 미토스 프리뷰’가 주요 운영체제와 웹브라우저를 포함해 심각한 취약점을 수천 건 찾았다며, 이 모델을 일반에 공개하지 않겠다고 밝혔습니다. 대신 애플, 구글 같은 기업들이 방어용으로 먼저 쓰게 했어요(프로젝트 글래스윙). 이 숫자는 회사가 직접 발표한 것입니다. 앤트로픽은 2026년 9월 보고서에서 여러 AI가 일을 나눠 맡는 공격이 많았지만, 누구를 노리고 어떻게 돈을 챙길지는 여전히 사람이 정한다고 적었어요.

방어에도 AI를 써? AI 해킹 보안의 지금

같은 기술은 막는 쪽에서도 쓰입니다. 대표적인 무대가 미국 국방고등연구계획국(DARPA)의 ’AI 사이버 챌린지’예요. AI가 오픈소스 소프트웨어(코드가 공개된 소프트웨어)의 취약점을 스스로 찾고 패치(빈틈을 막는 수정)까지 만드는지 겨루는 대회입니다. 2025년 8월 결승에서 조지아공대·삼성리서치·KAIST(Korea Advanced Institute of Science and Technology·한국과학기술원)·포스텍 연구진이 모인 ’팀 애틀랜타’가 우승해 상금 400만 달러를 받았고, 한미 연구자들이 꾸린 티오리(Theori)도 3위에 올랐어요. 결승에 나온 AI들은 대회용으로 심어 둔 취약점 54개를 찾아 43개를 고쳤고, 아무도 몰랐던 실제 취약점 18개도 찾아냈습니다. 패치 하나를 내는 데는 평균 45분이 걸렸다고 해요.

공격과 방어를 나란히 놓으면 이렇습니다.

구분	공격에 쓰이는 AI	방어에 쓰이는 AI
글과 말	피싱 문장, 가족·임원 목소리 흉내	사기 메시지 가려내기
코드	악성코드 작성과 수정	패치 자동 작성
취약점	침입할 빈틈 찾기	공격받기 전에 먼저 찾아 고치기
사람의 몫	목표 선정과 주요 결정	취약점 확인과 패치 배포
대표 사례	앤트로픽이 막은 스파이 작전(2025)	DARPA AI 사이버 챌린지(2025), 프로젝트 글래스윙(2026)

표에서 눈여겨볼 칸은 ’사람의 몫’입니다. 앤트로픽도 2026년 5월 프로젝트 글래스윙 중간 보고에서, 이제는 AI가 빈틈을 찾는 속도보다 사람이 확인하고 고치는 속도가 병목이라고 했어요.

AI를 속이는 해킹, 프롬프트 인젝션은 뭐야?

AI 자체가 공격 대상이 되기도 합니다. 대표적인 게 프롬프트 인젝션이에요. 프롬프트는 AI에게 주는 지시문인데, 웹페이지나 메일, 문서 속에 지시문을 몰래 숨겨 두면 그 글을 읽은 AI가 사용자가 원하지 않은 일을 할 수 있습니다. 웹 보안 비영리단체 OWASP(Open Worldwide Application Security Project·웹 보안 비영리 재단)는 2025년판 대형 언어 모델(챗GPT 같은 대화형 AI의 바탕 기술) 앱 10대 보안 위험 가운데 첫 번째로 이걸 꼽았어요. AI 비서에게 메일 보내기나 결제처럼 큰 권한을 맡길수록 피해도 커질 수 있습니다.

한국은 AI 해킹 위협을 어떻게 보고 있어?

국가정보원은 2024년 1월, 북한 해커들이 생성형 AI(글·그림·목소리를 만들어 내는 AI)로 해킹 대상과 기술을 찾아본 정황을 확인했다며 실제 사이버전에 쓴 단계는 아니라고 밝혔습니다. 과학기술정보통신부와 한국인터넷진흥원(KISA)은 2026년 1월 보고서에서 2025년 기업 침해사고 신고가 2,383건으로 한 해 전보다 26.3% 늘었다고 집계했어요. 올해는 AI를 악용한 공격이 더 정교해지고, 딥페이크 음성·영상 피싱이 실시간 통화와 화상회의로 번질 것이라고 내다봤고요. 지원이 끝난 뒤 방치된 오래된 시스템이 공격 통로가 될 수 있다는 경고도 실렸는데, 프랑스 냉장고 사건도 오래된 펌웨어를 쓰던 장비에서 벌어졌다고 보도됐죠. 올해 5월에는 국가안보실을 중심으로 민관 긴급 대응 체계를 만들겠다는 정부 계획도 나왔습니다.

한편 국회입법조사처는 2025년 주요 침해사고를 분석한 보고서에서, 사고 원인이 AI 같은 첨단 기법보다 기본적인 보안 관리 실패가 되풀이된 데 있다고 봤어요. AI가 공격을 더 빠르게 만드는 건 사실이지만, 큰 피해는 여전히 업데이트가 끊긴 장비와 기본 관리를 놓친 곳에서 시작되는 경우가 많습니다. 집에서도 공유기와 스마트 기기는 자동 업데이트를 켜 두고 처음 받은 기본 비밀번호를 바꿔 두세요. 목소리가 익숙해도 급히 돈을 보내 달라는 전화라면 일단 끊고 직접 아는 번호로 다시 거는 게 좋습니다. 업데이트가 왜 중요한지는 펌웨어 업데이트 글에 따로 정리해 두었어요.

한 줄 정리

AI는 이미 해킹에 쓰이고 있고, 공격 작업 대부분을 AI에게 맡긴 사례까지 나왔습니다. 하지만 같은 AI가 빈틈을 먼저 찾아 고치는 데에도 쓰이고, 프랑스 냉장고 사건이 보여 주듯 낡은 펌웨어를 방치한 장비가 큰 피해로 이어지기도 해요. 업데이트와 ’한 번 더 확인하는 습관’은 AI 시대에도 가장 기본적인 방어입니다.