AI 배상책임보험 비용 2026: 모델 오류·유해 출력 담보, 보험료 결정 요인과 가입 기준

AI 배상책임보험, 비용은 얼마이고 누가 사야 하나?

결론부터 말한다. AI 배상책임보험은 이제 “있으면 좋은 옵션”이 아니라, AI 출력이 고객의 돈이나 건강, 채용 결과에 영향을 주는 회사라면 갱신 때마다 따져봐야 하는 항목이 됐다. 보험료는 소규모 스타트업이 낮은 한도로 들 때 연 수백만 원대에서 시작하고, 고위험 용도를 가진 중견 이상 기업은 수천만 원 이상으로 올라간다. 표준 요율표가 없는 시장이라 이 숫자는 방향을 잡는 용도일 뿐 견적이 아니다.

내가 보기에 이 시장의 핵심은 가격이 아니라 “빠진 담보”다. 기존 기술 E&O, 상업종합배상책임(CGL), 사이버보험이 갱신될 때마다 AI 관련 문구를 조용히 좁히고 있다. 보험료를 아꼈다고 생각했는데 막상 챗봇이 잘못된 안내를 해서 청구가 들어오자 “우리 증권 대상이 아니다”라는 답을 받는 경우가 실제로 나온다. 이 글은 무엇이 담보되고 무엇이 빠지는지, 무엇이 가격을 움직이는지, 어떻게 고르는지 순서대로 짚는다.

AI 배상책임보험은 정확히 무엇을 담보하나?

AI 배상책임보험은 AI 시스템이 만든 잘못된 결과 때문에 제3자가 입은 손해, 그리고 그 청구를 방어하는 비용을 다룬다. 핵심은 “소프트웨어가 고장 났다”가 아니라 “모델이 그럴듯하게 틀렸다”는 점이다. 전통적인 소프트웨어 버그는 재현되지만, 생성형 모델의 오답은 같은 입력에도 달라질 수 있어서 보험사가 위험을 측정하기 어려웠다. 그 공백을 메우려고 2025년을 전후해 로이즈(Lloyd’s) 시장 인수사와 Armilla 같은 AI 전문 MGA가 단독 상품을 내놓았고, 대형 보험사들도 특약 형태로 따라왔다.

담보를 크게 나누면 다음과 같다.

• 모델 성능 실패: 모델이 약속한 정확도나 성능에 못 미쳐 고객이 손실을 본 경우
• 유해·오류 출력: 환각으로 만든 잘못된 정보, 명예훼손성 내용, 부적절한 조언
• 지식재산권: 생성물이 제3자 저작물과 유사해 제기되는 침해 청구의 방어비용
• 차별·편향: 채용, 대출, 보험 심사 모델이 특정 집단에 불리하게 작동해 생기는 청구
• 규제 대응: 당국 조사와 질의에 응하는 법률 비용

전체 그림을 한 번에 보려면 증권별 비교가 낫다.

증권 유형	AI 오류 담보	주된 한계
기술 E&O	소프트웨어·서비스 실패는 담보, AI 문구는 갱신마다 달라짐	AI 생성물 제외 조항 증가, 성능 보증 범위 모호
상업종합배상책임(CGL)	신체 상해·재산 피해 중심	순수 경제적 손실과 정보 오류는 대체로 제외
사이버보험	데이터 유출, 랜섬웨어, 시스템 장애	모델 판단 오류 자체는 대상 아님
이사·임원 배상책임(D&O)	AI 관련 경영 판단 소송 일부	”AI 워싱” 증권소송, 규제 벌금은 한계
AI 단독 배상책임	모델 오류, 유해 출력, 편향, 규제 대응 비용	상품마다 하위 한도와 면책이 다르고 심사가 까다로움

표에서 눈여겨볼 곳은 CGL이다. 많은 사람이 “배상책임이니까 되겠지” 하고 넘어가지만, CGL은 물리적 사고를 전제로 설계됐다. 챗봇이 틀린 세금 안내를 해서 고객이 가산세를 물었다면 그건 순수한 경제적 손실이고 CGL 영역이 아니다.

기존 증권은 왜 AI를 빼기 시작했나?

이유는 단순하다. 보험사가 AI 사고의 빈도와 크기를 아직 모르기 때문이다. 손해율 데이터가 쌓이지 않았는데 한 번에 많은 고객이 같은 모델 업데이트의 영향을 받을 수 있다. 하나의 모델 결함이 수천 개 기업에 동시에 퍼지는 “누적 위험”은 보험업이 가장 싫어하는 구조다. 그래서 일부 보험사는 AI 사고를 아예 면책하고, 다른 곳은 별도 요율을 붙여 팔겠다는 쪽으로 갈라졌다.

실무에서 보이는 신호는 두 가지다. 갱신 증권에 “인공지능이 생성한 콘텐츠 또는 알고리즘 판단으로부터 발생한 청구” 제외 문구가 새로 들어오거나, 반대로 증권에 침묵하는 대신 청약서에 AI 사용 질문 항목이 늘어난다. 둘 다 같은 방향이다. 지금 가진 보험이 AI를 담보한다고 가정하지 말고 문서로 확인하라는 뜻이다.

업무용 차량 플릿 보험 비용 가이드를 보면 같은 논리가 보인다. 사고 데이터가 풍부한 차량은 요율이 정교하지만, 데이터가 없는 위험은 보험사가 보수적으로 가격을 매기거나 거절한다. AI 보험은 지금 그 초기 단계에 있다.

보험료는 얼마나 하고, 무엇이 가격을 움직이나?

시장이 젊어서 공시된 요율표가 없다. 브로커들의 설명과 업계 보도를 종합하면 대략 이런 감이다. 이 숫자는 보도와 일반적 설명에서 가져온 방향성 범위이고, 실제 견적과는 다를 수 있다.

기업 유형	보상 한도(예시)	연 보험료 감각
초기 AI 스타트업(저위험 용도)	10억 원 내외	수백만 원대부터
성장기 SaaS(AI 기능 탑재)	10억~50억 원	수백만~수천만 원대
AI를 핵심 의사결정에 쓰는 금융·의료	50억 원 이상	수천만 원에서 억 단위
대형 AI 모델 개발사	협의	개별 협상, 한도 확보 자체가 과제

가격을 움직이는 변수는 다음과 같다.

요소	방향	이유
보상 한도	높을수록 상승	한도가 두 배가 돼도 보험료가 두 배까지는 아닌 경우가 많음
연 매출	클수록 상승	노출 규모의 대리 지표
용도 위험도	의료·금융·채용이 가장 높음	청구 건당 손실과 규제 강도가 다름
사람 검토 단계	있으면 하락	출력이 곧바로 결정이 되는지가 핵심
모델 자체 개발 여부	자체 개발이 더 까다로움	책임 소재가 개발사에 집중됨
자기부담금	높을수록 하락	소액 청구를 기업이 직접 감당
테스트·모니터링 기록	탄탄하면 하락	보험사가 통제 수준을 신뢰함

내가 보기에 가장 과소평가되는 항목은 용도 위험도다. 같은 회사가 사내 회의록 요약에 AI를 쓰는 것과 고객 대출 승인에 쓰는 것은 보험사 눈에 완전히 다른 위험이다. 가입 전에 “우리 AI가 실제로 어디까지 결정하는가”를 문서로 정리해 두면 견적이 달라진다.

무엇이 면책되는가, 청약서에서 어디를 읽어야 하나?

보험료보다 먼저 읽어야 할 것이 면책 조항이다. 자주 나오는 항목은 다음과 같다.

• 고의·사기 행위: 기업이 알면서 위험한 출력을 방치한 경우
• 벌금·과태료: 법적으로 보험 가능한 범위만 인정하거나 전면 제외
• 알려진 결함: 가입 전에 이미 인지한 모델 문제
• 계약상 책임 가중: 고객 계약서에서 법정 책임을 넘어 약속한 부분
• 신체 상해·재산 손해: CGL 영역이라며 제외하고 별도 증권으로 넘김
• 데이터 학습 관련 위법 수집: 개인정보나 저작물의 부적법한 학습 사용

소급 일자와 청구 기준도 확인해야 한다. 대부분 청구가 접수된 시점에 증권이 살아 있어야 하는 방식이라, 갱신을 놓치거나 보험사를 바꾸며 소급 일자가 초기화되면 과거 서비스가 무보험이 된다. 이 구조는 오토바이 보험 비용 가이드에서도 면책 운전자 범위와 특약을 따지라고 하듯, 소액 상품에서도 면책 문구를 꼼꼼히 읽으라는 조언이 따라붙는 것과 같은 맥락이다. 작은 글씨가 결국 지급 여부를 정한다.

방어비용이 한도 안에 포함되는지 밖에 있는지도 중요하다. 한도 안에 들어가면 소송이 길어질수록 보상 한도가 줄어든다. AI 관련 소송은 전문가 증인과 기술 감정 비용이 커서 이 차이가 무시할 수 없다.

누가 AI 배상책임보험이 필요한가?

두 부류가 있고 필요한 이유가 다르다.

AI 제품을 만들어 파는 회사. 고객에게 성능이나 정확도를 약속한 순간 책임이 생긴다. 엔터프라이즈 계약에서 고객 쪽 법무팀이 “AI 배상책임 증빙”을 요구하는 일이 늘고 있다. 보험이 없으면 계약 자체를 못 따는 경우도 생긴다. 여기서는 보험이 비용이 아니라 영업 도구다.

AI를 업무에 도입한 일반 기업. 이쪽이 더 간과된다. 병원이 AI 판독 보조를 쓰고, 은행이 신용 모델을 돌리고, 인사팀이 이력서 스크리닝 도구를 쓴다. 모델 제공사 약관은 대개 책임을 이용료 수준으로 제한하기 때문에 피해자가 소송을 걸면 마지막에 서 있는 건 서비스를 제공한 기업이다. 소득보장보험 비용 가이드와 대상은 다르지만, 한 번의 사고로 소득과 사업을 잃지 않도록 방어선을 겹쳐 쌓는다는 원리는 같다.

반대로 AI를 내부 생산성 도구로만 쓰고 외부에 영향을 주지 않는 소규모 팀은 별도 AI 증권보다 기존 E&O의 AI 문구를 확인하는 선에서 시작해도 된다. 모두가 단독 상품을 살 필요는 없다.

어떻게 고르고 어떤 순서로 가입하나?

내가 권하는 순서는 이렇다.

1. AI 사용 지도를 만든다. 어떤 모델을, 어디에, 누구에게 노출되는 용도로 쓰는지 한 장으로 정리한다.
2. 현재 증권의 AI 문구를 점검한다. 기술 E&O, CGL, 사이버, D&O에서 제외 조항과 침묵 조항을 찾는다.
3. 빈틈의 크기를 판단한다. 외부 고객에게 영향을 주는 용도가 있다면 단독 상품이나 AI 특약을 검토한다.
4. 전문 브로커에게 견적을 받는다. AI 보험은 취급 보험사가 한정돼 일반 설계사보다 전문 중개사가 유리하다. 최소 두세 곳의 조건을 비교한다.
5. 하위 한도와 면책을 표로 비교한다. 총 한도만 보지 말고 지식재산, 규제 대응, 방어비용 각각의 한도를 본다.
6. 자기부담금을 현금으로 감당 가능한지 확인한다. 청구가 오는 달에 낼 수 있는 금액이어야 한다.
7. 갱신 일정을 관리한다. 소급 일자를 지키려면 끊김 없이 이어가야 한다.

자동차보험 갱신 비교 가이드에서 강조하듯, 갱신 시점은 조건을 협상할 수 있는 가장 좋은 기회다. AI 증권도 마찬가지로 갱신 90일 전쯤 준비 서류를 갖추는 편이 유리하다.

가입 때 자주 하는 실수는 무엇인가?

현장에서 반복되는 실수를 꼽으면 다음과 같다.

첫째, 기존 증권이 AI를 담보한다고 추측한다. 문서를 읽지 않고 중개사에게 한 번 물어본 말로 끝내는 경우가 많다. 서면 확인을 받아야 한다.

둘째, 총 한도만 비교한다. 한도 20억 원이라고 해도 지식재산 하위 한도가 1억 원이면 저작권 청구에서 쓸 수 있는 돈은 그것뿐이다.

셋째, 청약서에 AI 사용을 축소해 적는다. 사실과 다르게 적으면 청구 때 고지 의무 위반으로 지급이 거절될 수 있다. 오히려 사람 검토 절차를 정직하게 문서화하는 편이 가격에 유리하다.

넷째, 고객 계약서의 책임 조항을 방치한다. 계약서에서 무제한 책임을 약속하면 보험이 그 부분을 면책할 수 있다. 법무팀과 보험 담당이 같은 테이블에 앉아야 한다.

다섯째, 보험을 안전장치의 대체물로 본다. 보험사는 사고가 난 뒤에 돈을 낼 뿐이다. 테스트, 모니터링, 사람 검토 같은 통제를 갖춰야 가격도 내려가고 사고 자체도 줄어든다. 보석 보험 비용 가이드에서 보관·감정 절차를 갖춰야 보험료가 내려가는 것과 같다. 보험은 위험 관리의 마지막 층일 뿐이다.

실전 시나리오 3가지: 이런 회사는 이렇게 접근한다

숫자와 표만으로는 감이 오지 않으니 흔한 상황 세 가지를 가정해 보자. 모두 가상의 사례이고 금액은 일부러 적지 않았다.

시나리오 1: 고객 상담 챗봇을 붙인 중소 SaaS

직원 서른 명 규모의 회사가 외부 모델 API로 고객 상담 챗봇을 만들었다. 챗봇이 환불 규정을 잘못 안내했고, 몇몇 고객이 이를 믿고 손해를 봤다. 이 회사의 기술 E&O에 AI 제외 조항이 없다면 일단 거기서 다툴 여지가 있다. 하지만 갱신 때 문구가 바뀌었다면 방어 자체가 막힌다.

내 판단은 이렇다. 이 회사는 단독 AI 증권을 바로 사기보다 먼저 기존 E&O 갱신 때 “AI 생성 콘텐츠 제외 조항을 삭제하거나 완화해 달라”고 협상하는 편이 효율적이다. 협상이 안 되면 그때 단독 상품이나 AI 특약을 견적받는다. 챗봇의 답변 범위를 제한하고 환불 같은 금전 결정은 사람에게 넘기는 설계만으로도 인수 조건이 확연히 달라진다.

시나리오 2: 채용 스크리닝 모델을 만드는 HR 테크

이력서를 점수화하는 모델을 기업 고객에게 파는 회사다. 이 업종은 차별 청구와 규제 조사에 가장 노출된다. 채용 영역은 많은 법역에서 AI를 고위험으로 분류한다. 보험사도 이 점을 알기 때문에 질문이 길고 요율이 높다.

여기서는 단독 상품이 사실상 필수에 가깝다. 확인할 것은 세 가지다. 차별 청구의 방어비용이 담보되는지, 규제 조사 대응 비용이 하위 한도로 얼마인지, 고객 기업이 제기한 청구와 최종 구직자가 제기한 청구가 모두 대상인지다. 편향 테스트 결과와 감사 기록을 청약 때 첨부하면 가격과 조건 양쪽에서 유리하다.

시나리오 3: 병원이 영상 판독 보조 AI를 도입한 경우

병원은 이미 의료배상책임보험을 갖고 있다. 문제는 그 증권이 AI 보조 판독을 어떻게 취급하느냐다. 의사가 최종 판단을 내리는 구조라면 대체로 기존 증권 안에서 다뤄지지만, 소프트웨어 공급사와의 책임 분담이 계약에서 모호하면 구상 단계에서 분쟁이 커진다.

이 경우 보험을 새로 사기 전에 공급 계약서의 면책과 보상 조항부터 읽는 것이 순서다. 공급사가 자체 AI 보험을 갖고 있는지, 병원을 추가 피보험자로 넣어줄 수 있는지 묻는 것이 비용 대비 효과가 가장 큰 질문이다.

계약서와 보험을 같이 설계해야 하는 이유

AI 사업을 하는 회사가 가장 자주 놓치는 지점이 계약서와 증권의 불일치다. 고객과의 계약에서 “정확도 99퍼센트 보장” 같은 문구를 쓰면 그것은 법정 책임을 넘어선 계약상 약속이고, 많은 증권이 이런 가중 책임을 면책한다. 영업팀이 따낸 계약 조건이 보험으로 받쳐지지 않는 일이 생긴다.

실무에서 효과 있는 방법은 단순하다. 영업 계약서 표준안을 만들 때 보험 담당이 먼저 검토하고, 책임 상한을 보험 한도와 맞춘다. 책임을 연간 이용료의 일정 배수로 제한하는 식이다. 고객이 상한 상향을 요구하면 그 요구가 보험 한도 안에서 감당되는지 확인하고, 안 되면 추가 한도 비용을 가격에 반영한다. 이것이 번거롭다고 건너뛰면 사고가 났을 때 회사 재무제표가 직접 맞게 된다.

또 하나는 사고가 생겼을 때의 통지 의무다. 청구가 들어오기 전이라도 “청구가 예상되는 상황”을 보험사에 알려야 하는 조항이 있다. 모델이 잘못된 출력을 대량으로 내보낸 사실을 알았는데 내부에서만 처리하다가 몇 달 뒤 청구가 들어오면, 늦은 통지를 이유로 지급이 다퉈질 수 있다. 사고 대응 절차에 보험사 통지 단계를 넣어 두자.

2026년 시장은 어디로 가고 있나?

방향은 비교적 뚜렷하다. 첫째, 대형 보험사의 기존 증권에서 AI 제외 문구가 표준화되고, 둘째, 그 빈틈을 로이즈 지원 인수사와 전문 MGA의 단독 상품이 채우고 있다. 셋째, EU AI Act처럼 규제가 구체화되면서 규제 대응 비용 특약의 수요가 커진다.

한계도 분명하다. 보험사가 지급해 본 AI 사고가 아직 많지 않아 증권 문구가 판례와 함께 다듬어지는 중이다. 지금 사는 상품이 2년 뒤에도 같은 조건일 가능성은 낮다. 그래서 장기 계약보다 매년 조건을 재점검하는 접근이 현실적이다.

투자자 입장에서 이 흐름은 AI 기업의 수익 구조에도 영향을 준다. 보험 가능성은 기업이 AI를 대규모로 도입할 수 있는지를 가르는 인프라이기 때문이다. AI 주식 투자 가이드를 볼 때도 어떤 기업이 책임 리스크를 계약과 보험으로 정리해 두었는지가 하나의 점검 항목이 된다.

마지막 점검표

• 우리 AI가 외부 고객의 결정에 영향을 주는가
• 현재 E&O, CGL, 사이버, D&O에 AI 제외 문구가 있는가
• 단독 상품의 하위 한도(지식재산, 규제 대응, 방어비용)를 비교했는가
• 방어비용이 한도 안인지 밖인지 확인했는가
• 소급 일자와 청구 기준을 이해했는가
• 청약서에 AI 사용을 정확히 적었는가
• 고객 계약서의 책임 조항과 보험 조건이 일치하는가

이 글은 일반적인 정보 제공을 목적으로 하며 보험 또는 법률 자문이 아닙니다. 상품 구성, 담보 범위, 보험료는 보험사와 시점, 개별 심사 결과에 따라 크게 달라지며 본문의 금액은 방향성을 위한 범위일 뿐 실제 견적이 아닙니다. 가입 전에는 AI·기술 보험을 취급하는 면허 보유 보험 중개사에게 견적을 받고 약관과 증권 문구를 직접 확인하십시오.