30일 오후 서울 여의도 국회에서 열린 제350회 국회(임시회) 제4차 본회의에서 제조물 책임법 일부개정법률안(대안)에 대한 수정안이 가결되고 있다. 2017.3.30 

목차

1. 소프트웨어도 제조물이다

2. 공공시스템과 무과실 책임

3. 시민청원: 한미일보가 제안하는 제조물책임법 개정안

4. 디지털 시대의 소비자 권리

5. 입법운동 실천 가이드

제조물책임법, 디지털 책임시대로 개정해야 한다

"눈에 보이지 않는 결함"이 가장 위험하다

2025년, 대한민국의 모든 국민은 디지털 시스템 위에서 살아가고 있다. 복지 수급 여부도, 병원 진료기록도, 심지어 행정 처분까지도 대부분 자동화된 시스템과 인공지능 알고리즘에 따라 처리된다. 하지만 만일 이 시스템에 오류가 생긴다면? 혹은 특정 집단에게만 불리한 방식으로 작동한다면?

현행 「제조물책임법」은 이를 다루지 못한다. 같은 이름을 가진 법은 오직 물리적 '동산'을 제조물로 규정하고 있기 때문이다. 다시 말해, 시민의 삶에 결정적 영향을 미치는 디지털 기반 시스템은 제조물로 인정되지 않으며, 법적 책임도 거의 발생하지 않는다.

피해자가 '입증'해야 구제받는 구조

제조물책임법은 소비자가 결함을 입증하지 않아도 일정한 요건을 충족하면 제조자가 무과실 책임을 지도록 설계된 법이다. 그러나 이조차도 "제조물"의 범위를 물리적 제품으로 한정함으로써, 가장 많은 피해가 일어나는 소프트웨어와 알고리즘에는 적용되지 않는다.

예컨대, 자동화된 복지심사 알고리즘이 특정 조건의 국민을 누락하거나, 공공시스템의 오류로 인해 주민등록이 잘못 말소되는 사태가 발생했을 때, 피해자는 막대한 시간과 비용을 들여 시스템의 오류를 직접 입증해야 한다. 현실적으로 불가능에 가까운 일이지만, 현행법은 피해자에게 이 부담을 고스란히 지운다.

유럽은 이미 바꾸고 있다: '보이지 않는 제품'도 제조물로 간주

EU는 2024년 2월, 새로운 "제조물책임지침(Directive 2024/2853)"을 통해 디지털 제품과 AI 시스템을 제조물로 공식 규정했다. 개정안의 핵심은 △ 디지털 형식으로 제공되는 제품(소프트웨어, 앱, AI 시스템 등)을 제조물의 정의에 포함 △ 업데이트 오류, 사이버 보안 취약성, 훈련 데이터 오류 등도 결함으로 간주 △ 피해자는 손해만 입증하면 되고, 결함 여부는 기업이 입증해야 하는 입증책임 전환 규정 도입 등이다.

EU는 명확히 말했다. "소프트웨어가 결함을 일으켜 생명이나 재산에 해를 입혔다면, 그것은 전통적 제조물과 마찬가지로 책임을 져야 한다.“

미국도 캘리포니아와 일리노이, 뉴욕 등 일부 주에서 소셜미디어 알고리즘 중독, 자동화된 대출심사 차별 등의 사례에 대해 제조물책임 또는 유사한 집단소송이 허용되고 있다. 연방 차원에서는 아직 법제화되지 않았지만, 이미 디지털 플랫폼 기업들은 수백 건의 손해배상 청구에 시달리고 있다.

한국의 제조물책임법, 2000년 이후 본질적 개정 없다

대한민국의 「제조물책임법」은 2000년 제정된 이후 단 한 번도 본질적 개정이 이뤄지지 않았다. 25년 전 기준으로 만들어진 '제조물' 정의는 여전히 물리적 동산에 머물러 있으며, 그간 발전한 디지털 기반 상품과 서비스는 법적 사각지대에 놓여 있다.

2017년 3월 징벌적 손해배상제 도입 및 입증책임 완화 조항이 추가된 ‘제조물책임법’ 개정안이 통과되기는 했지만, 제조물의 정의를 확장하지는 못했다. 

2022년 공정거래위원회는 소프트웨어도 제조물로 간주할 수 있는지에 대한 연구용역을 발주했지만, 결론은 흐지부지됐다. 입법 주체들이 이 문제의 시급성을 체감하지 못한 탓이다.

한미일보의 입법 제안: 제조물책임법 일부 개정

한미일보는 새로운 법을 만들기보다는, 기존 제조물책임법의 개정을 제안한다. 구체적인 방향은 △ '제조물'의 정의에 디지털 무형물(소프트웨어, AI, 시스템 등)을 명시적으로 포함 △ 결함의 추정 원칙을 디지털 제품에도 확대 적용 △ 입증책임을 피해자가 아닌 시스템 제공자에게 전환 △ 보안 취약성, 알고리즘 편향성, 업데이트 실패 등도 결함으로 명문화이다.

이러한 개정을 통해 소비자는 자신이 이해할 수 없는 시스템 오류나 편향에 맞서 싸울 수 있는 법적 기반을 가지게 된다.

이제 법이 기술을 따라올 차례다

기술은 인간을 편리하게 만들지만, 법은 인간을 보호하기 위해 존재한다. 이제 기술은 무형이지만, 그 책임은 구체적이어야 한다. AI가 작성한 문장도, 자동화된 판정도, 시스템 오류도 우리 사회를 흔들 수 있다면, 그 모든 작동의 책임도 인간 사회가 물을 수 있어야 한다.

소프트웨어도 제조물이다. 지금은 그 상식을 법에 새겨 넣어야 할 시간이다.

#제조물책임법 #AI책임 #디지털소비자권리 #입증책임전환 #소프트웨어제조물 #EU입법 #한미일보입법제안 #디지털보호법 #무형상품책임 #디지털공공책임

다음 편 예고 ② 공공시스템과 무과실 책임… 국민을 위한 디지털 보호장치가 필요하다