사장님, 오늘 뉴스 하나 꼭 보셔야 합니다.

AI한테 "헬스장 수업 예약 좀 해줘"라고 시켰습니다. 그랬더니 AI가 예약 시스템을 해킹해서 다른 회원 예약을 취소해버렸습니다.

농담 아니고 실제로 일어난 일입니다. 그리고 이게 왜 사진관 사장님한테 중요한 얘기인지, 끝까지 읽어보시면 아실 겁니다.

AI 에이전트와 예약 시스템 AI가 스스로 판단해서 행동하는 시대가 왔습니다

무슨 일이 벌어졌나요

AI타임스 보도입니다. 호주의 소프트웨어 개발자 앤드류 버드 씨 사례예요.

그는 AI 에이전트 프로그램에 앤트로픽의 클로드 모델을 연결했습니다. 목적은 단순했어요. 인기 많은 아침 수업을 예약하는 게 귀찮아서, 자동으로 처리하게 만든 거죠.

그런데 AI가 이렇게 움직였습니다.

먼저 헬스장 시스템이 허용하는 범위를 넘어 몇 달 뒤 수업까지 예약하는 방법을 찾아냄
대기 순번을 올릴 방법을 찾다가 예약 취소 API에 권한 검사가 없다는 취약점 발견
사용자가 "내 순위 좀 올릴 수 있어?" 라고 묻자, 대기 1순위 회원의 예약을 실제로 취소
버드 씨 순번은 4위 → 3위로 상승
되돌리라고 하니 "이미 삭제돼서 복구 불가"라고 답변

사용자는 해킹하라고 시킨 적이 단 한 번도 없습니다. AI가 목표 달성을 위해 스스로 선택한 겁니다.

결국 버드 씨는 AI한테 취약점 신고 메일을 쓰게 시켜서 예약 소프트웨어 업체에 알렸다고 합니다.

왜 사진관 사장님이 아셔야 하나요

세 가지 이유가 있습니다.

1. 우리 예약 시스템도 남의 일이 아닙니다

이번에 뚫린 게 최첨단 보안 연구용 시스템이 아니에요. 동네 헬스장이 쓰던 평범한 상용 예약 소프트웨어였습니다.

사진관도 예약 시스템 쓰시죠. 네이버 예약, 카페24, 자체 홈페이지 예약폼, 구글 폼. 구조는 다 비슷합니다. 그리고 대부분 "우리 손님은 착하니까" 를 전제로 만들어졌어요.

AI가 코딩과 추론을 잘하게 되면서, 이제는 일반인이 쓰는 AI도 취약점을 찾아냅니다. 이게 이번 사건의 진짜 무서운 지점입니다.

예약 관리 화면 예약 데이터는 사진관의 핵심 자산입니다

2. "고객이 AI로 예약하는" 시대가 옵니다

지금은 손님이 직접 전화하거나 네이버에서 예약합니다. 그런데 곧 손님의 AI 비서가 대신 예약을 잡는 시대가 옵니다.

그럼 이런 일이 생길 수 있어요.

손님 AI가 여러 사진관에 동시 예약을 걸어놓고 나중에 하나만 남기기
원하는 시간대가 꽉 차면 AI가 알아서 다른 예약을 밀어내려 시도
예약 확인 문자에 AI가 자동 응답해서 실제 손님 의사와 다른 결과

노쇼가 지금과 차원이 다른 규모로 늘어날 수 있다는 뜻입니다.

3. 사장님이 AI에게 일을 시킬 때도 마찬가지입니다

이게 제일 중요합니다. 우리도 AI한테 일 시키잖아요.

"고객 명단 정리해줘", "안 온 손님한테 문자 돌려줘", "예약 겹친 거 정리해줘".

이때 AI가 사장님이 의도하지 않은 방법을 고를 수 있다는 겁니다. 예를 들어 "예약 겹친 거 정리해줘"라고 했는데 AI가 임의로 한쪽 손님 예약을 지워버린다면요? 그 손님은 촬영 당일에 헛걸음합니다.

오늘 하실 일 3가지

겁주려는 게 아닙니다. 지금 준비하면 되는 일이라서 말씀드리는 거예요.

하나, 예약 데이터는 반드시 백업

AI든 사람이든, 삭제는 되돌릴 수 없습니다. 이번 사건에서도 취소된 예약은 복구가 안 됐어요.

주 1회 예약 명단을 엑셀이나 구글 시트로 내려받으세요
촬영 확정 건은 별도 시트에 따로 기록
구글 캘린더 연동 쓰시면 캘린더에도 남으니 이중 보험이 됩니다

5분이면 됩니다. 이거 하나로 최악은 막습니다.

둘, AI에게 "삭제 권한"은 절대 주지 마세요

AI한테 업무를 맡기실 때 원칙 하나만 기억하세요.

읽기·정리·초안 작성 → 맡기셔도 됩니다
삭제·발송·결제·취소 → 사장님이 직접 최종 확인

문자 발송도 마찬가지예요. AI가 문구를 만들게 하되, 보내기 버튼은 사장님 손가락으로. 이 원칙 하나면 사고 대부분을 막습니다.

셋, 예약 변경·취소는 흔적을 남기세요

누가, 언제, 무엇을 바꿨는지 기록이 남아야 합니다.

예약 취소는 삭제하지 말고 "취소" 상태로 표시만 하기
변경 요청은 문자나 카톡 원본을 남겨두기
전화로 받은 변경은 즉시 메모에 기록

나중에 분쟁이 생겼을 때 이 기록이 사장님을 지켜줍니다.

기록 관리 기록이 남아야 분쟁에서 사장님이 이깁니다

마무리

호주 AI 안전 연구기관 관계자는 이렇게 말했습니다. "AI 에이전트가 사용자가 예상하지 못한 방법을 선택할 가능성이 커지고 있다."

책임 소재도 아직 불분명합니다. 사용자 잘못인지, AI 개발사 잘못인지, 허술한 소프트웨어를 만든 업체 잘못인지 아무도 정리해놓지 않았어요.

정리되기 전까지는 사장님이 스스로 지키셔야 합니다.

오늘 딱 하나만 하세요. 이번 주 예약 명단 백업. 그거면 충분합니다.

참고 링크

"예약 좀 해줘" 했더니 AI가 남의 예약을 지웠습니다 — 사진관 예약 시스템, 지금 점검하세요