15일 자율주행차 윤리‧보안‧안전 방향 가이드라인 3종 발표

자율주행차 윤리, 사이버보안에 이어

레벨4 자율주행차 제작·안전 가이드라인까지

 

□ 국토교통부(장관 김현미)는 15일 자율주행차 윤리 가이드라인, 사이버보안 가이드라인, 레벨4 제작·안전가이드라인을 발표했다.

 

□ 본격적인 자율주행차 상용화 시대를 앞두고 각국의 글로벌 경쟁이 치열해지고 있는 상황 속에서, 자율주행차 운행 알고리즘의 윤리성, 자율주행차에 대한 해킹 위협에 대응하기 위한 사이버보안 등이 날로 중요해지고 있다.  

 

 ㅇ 이러한 문제의 특성상 단시일 내 제도화가 어렵기에, 국토부는 그간의 정책연구 및 의견수렴 등을 바탕으로 보안‧윤리‧안전에 대한 기본방향을 제시하는 가이드라인*을 발표하게 되었다.

 

    * 가이드라인은 의무규정이 아닌 권고적 성격임을 고려, 정부간행물로 발간 예정

 

□ 윤리 가이드라인은 국토교통부와 학계의 공동 발표회(15일 한국프레스 센터)에서, 보안 가이드라인과 레벨4 제작·안전 가이드라인은 자율주행차 융·복합 미래포럼*(15일 엘타워)에서 발표되었다.

 

    * 자율주행차 관련 다양한 문제에 대한 정책연구 및 의견수렴을 위해 100여 명의 사회 각계 전문가로 이루어진 회의체(’16년 발족)

 

 ㅇ 발표는 방역지침에 따라 인원을 최소화한 상태에서 온라인으로 생중계* 되었으며, 각 가이드라인의 주요 내용은 다음과 같다.

 

    * ①윤리 가이드라인 생중계 채널 (https://youtu.be/2tPEvFX5-7c)
②보안, 제작 가이드라인 생중계 채널 (https://youtube.com/user/korealand)

 

< ⑴ 자율주행차 윤리 가이드라인 >

 

□ 지난 8월 개최된 “윤리 가이드라인 공개토론회” 이후, 국토교통부와 관련 기관*들은 공동 논의를 거쳐 윤리 가이드라인을 합동 발표했으며, 각 기관의 학술지나 소식지 등에 이를 게재할 예정이다.

 

    * 한국교통안전공단, 국토교통과학기술진흥원, 한국교통연구원, 한국자동차안전학회, 한국자동차공학회, 한국윤리학회, 대한교통학회, 인공지능윤리협회 등

 

□ 윤리 가이드라인은 자율주행차가 인명 보호를 최우선하도록 설계·제작되어야 한다는 원칙을 중심으로 한다.

 

 ㅇ 이에 따라 자율주행차는 △“재산보다 인간 생명을 최우선하여 보호할 것”, △“사고 회피가 불가능할 경우 인명피해를 최소화할 것” 등의 내용을 제시하고 있다.

 

 ㅇ 아울러, △“자율차 운행이 타인의 자유와 권리를 침해하지 않도록 할 것”, △“올바른 운행을 위하여 안전교육을 받을 것”과 같이 자율주행차의 이용자 등이 지켜야 할 윤리도 제시하고 있다.

 

□ 윤리 가이드라인은 앞으로 자율주행차의 윤리성에 대한 판단기준이 되는 동시에, 제작자·이용자 등의 윤리적 행위를 이끌어 낼 수 있는 유인체계의 역할을 할 수 있을 것으로 기대된다.

 

< ⑵ 자동차 사이버보안 가이드라인 >

 

□ 국토교통부는 올해 6월 제정된 자동차 사이버보안 국제기준*(UNR No.155)을 바탕으로 자동차제작사에 대한 권고안을 주요 내용으로 하는 사이버보안 가이드라인을 마련하였다.

 

    * 국제연합(UN) 산하의 WP.29(자동차 국제기준 회의체)에서 각국의 논의를 거쳐 개발·제정되는 기준으로, 우리나라도 국제기준 제·개정 활동에 참여

 

 ㅇ 권고사항은 제작사가 사이버보안 관리체계를 갖추고, 그 체계에 따라 자동차 사이버보안을 관리해야 한다는 내용으로 요약된다.

 

□ 사이버보안 관리체계는 사이버 위험에 대응하기 위한 조직체계의 총체로, 사이버보안 확보를 위한 각종 행정절차 및 운영지침(프로세스), 조직의 책임·권한 배분 등을 의미한다.

 

 ㅇ 권고안에 따르면 제작사는 △“위험평가 절차”에 따라 위험을 인지·분석하며, △“보안조치 절차”를 통해 위험수준을 완화하고, △“검증 절차”를 실시하여 보안조치의 적절성을 확인하는 등 사이버보안 관리체계상의 절차를 통해 보안을 확보해야 한다.

 

 ㅇ 이외에도 △“제작사는 공급업체나 협력업체의 보안상태도 고려”해야 하며, △“자동차 사이버보안 전담기관과 관련 정보를 공유”해야 한다는 내용도 권고안에 담겨있다.

 

□ 앞으로 국토교통부는 관련법령의 개정을 통해 권고안의 내용을 반영한 국내 사이버보안 기준을 마련(’22.7월 시행 목표)하여 사이버보안 관리를 의무화할 계획이다.

 

 ㅇ 아울러, 보안기준에 따라 자동차 보안을 시험·평가할 수 있도록 자동차안전연구원 내에 자동차 보안센터를 구축하는 사업(’21~)도 병행 추진할 예정이다.

 

< ⑶ 레벨4 자율주행차 제작·안전 가이드라인 >

 

□ 올해 정부는 레벨3 자율주행차 상용화를 위한 제도*를 완비했으며, ’24년까지 레벨4 자율주행차 안전기준 등 완전자율주행차 상용화 기반 구축을 위한 정책을 추진 중에 있다.

 

    * 레벨3 자율차 안전기준 시행(’20.7) 및 보험제도 마련(자동차손배법 개정, ’20.4)

 

 ㅇ 국토교통부는 레벨4 자율주행 관련 제도를 마련하기 전, 본 가이드   라인을 통해 자율주행차의 안전한 운행·설계·제작에 필수적인 사항에 대한 권고안을 제시함으로써 자율주행 기술개발을 촉진할 계획이다.

 

레벨3 자율주행차	⇨	레벨4 자율주행차
자율주행시스템으로 자동차를 운행 중  작동한계상황 등 필요한 경우 운전자의  개입을 요구(제어권 전환)		지정조건(운행가능영역)에서 운전자의 개입 없이 시스템이 자동차를 운행(제어권 전환 없음)

 

□ 이번에 발표된 가이드라인은 융복합 미래포럼 연구 결과를 중심으로 마련됐으며, ‘시스템 안전’, ‘주행 안전’, ‘안전교육 및 윤리적 고려’ 3개 분야와 그에 포함된 13개의 안전항목으로 구성되어있다.

 

 ㅇ ❶시스템 안전 분야는 자율주행차의 설계오류·오작동을 최소화하고 사이버위협으로부터의 안전성을 확보하기 위한 제언으로, ‘기능안전’, ‘운행가능영역’, ‘사이버보안’, ‘통신안전’, ‘자율협력주행시스템’, ‘무선 소프트웨어 업데이트’ 등 6개 안전항목으로 구성되어 있다.

 

 ㅇ ❷주행 안전 분야는 운행 단계에서 다양한 도로환경 및 통행객체(보행자, 다른 차량 등)와 안전한 상호작용을 통해 사고 위험을 최소화하기 위한 것으로 ‘주행상황 대응’, ‘HMI*’, ‘비상대응’, ‘충돌안전 및 사고 후 시스템 거동’, ‘데이터기록장치’ 등 5개 항목을 제시하고 있다. 

 

    * (Human-Machine Interface) 자율주행차가 사람과 안전하게 상호작용할 수 있도록 차량 및 주행상황에 대한 정보 등을 사람에게 정확히 전달하는 기능

 

 ㅇ ❸안전교육 및 윤리적 고려는 자율차의 올바른 제작·운행을 위한 것으로 ‘사용자 등 교육훈련’ 및 ‘윤리적 고려’ 2개 항목으로 구성된다.

 

□ 각 가이드라인(윤리, 사이버보안, 레벨4 제작·안전)은 15일(화)부터 국토교통부 누리집(http://www.molit.go.kr)에서 확인할 수 있다.

 

    * 국토교통부 누리집 상단 메뉴 > 정책자료 > 정책정보 > 교통물류

 

 

자율주행차 윤리 가이드라인 개요

 

□ 자율차 윤리가이드라인 개요

 

 ㅇ (개요) 자율차의 도입에 따라 윤리적 판단을 기계가 대체하게 되는 상황에 대비하여, 윤리적 판단의 기본 가치와 윤리 원칙 제시

 

 ㅇ (의의) 법 체계상 제도화하기 어려운 윤리적 방향성을 제시하여 안전하고 국민들이 수용할 수 있는 자율차의 도입 환경을 조성

 

 ※ 해외동향 : 미국 자율주행차 설계 지침에 윤리 부분을 포함(’16년 발표, ‘18년 업데이트), 독일 자율주행차 윤리가이드라인 발표(‘17)

 

□ 추진 경위

 

 ㅇ 자율차가 다양한 판단을 통해 운행함에 있어 추구해야하는 가치에 대한 기준의 필요성이 증대되고, 국제사회에서도 그 중요성이 대두

 

 ㅇ 자율주행차 사회적 수용성 증진 방안에 관한 연구(‘17~’20)를 통해 윤리가이드라인 연구 추진(‘17∼’19) → 가이드라인 초안 마련(’19.12)

 

 ☞ 윤리 가이드라인에 대해서는 사회적 공감대 형성이 필수적이므로 공개 토론회(’20.8) 등 충분한 의견수렴을 거쳐 ‘20년 최종안 발표

 

□ 윤리가이드라인 주요내용

 

⦁ 기본 가치   - 자율주행차의 목표는 인간의 안전과 복리 증진   - 인간의 안전하고 편리하며 자유로운 이동권 보장   - 인간의 생명을 동물이나 재산의 피해보다 우선적으로 고려   - 사고로 인한 개인적, 사회적 손실의 최소화   ⦁ 행위 원칙   - 자율차는 문제 발생 시 책임을 확인할 수 있는 기록 시스템을 갖추어야 함(투명성)   - 자율차는 인간의 안전을 최우선적으로 보호하도록 설계·제작·관리되어야 함(안전성)   - 자율차는 개인 정보 등의 보안 체계를 갖추어야 함(보안성)   - 문제가 발생한 경우 관련 주체는 해당 문제에 대한 책임을 져야 함(책임성)   ⦁ 자율주행차와 관련된 각 주체들이 준수해야하는 윤리 원칙   - 자율차의 설계·제작 단계에서 개조·해킹 방지 등을 고려하도록 설계·제작자의 의무 제시   - 자율주행 관련 인프라 확충과 안전 등에 관한 관리자의 의무 제시   - 자율차의 임의 개조 변경 및 오사용 금지 등 소비자의 의무 제시

 

자동차 사이버보안 가이드라인 개요

 

□ 추진 배경

 

 ㅇ 해킹 위협 등에 취약한 전자제어 방식의 장치 증가, 커넥티드 카 도입 확대 추세에 따라, 자동차 보안 위협 대폭 증가

 

 ☞ 국제기준(UNR)을 반영(’20.6 채택)하여 사이버보안 가이드라인을 우선 마련하고 향후 자동차 보안기준(법령)을 단계적으로 제정

 

□ 주요 내용

 

 ㅇ (개요) 자동차제작사 등이 보안기준의 시행에 대비하여 사이버 보안체계를 준비할 수 있도록 하는 ①권고안 및 ②보안 정책방향 소개

 

 ㅇ (권고안 개요) 제작사들은 사이버보안을 관리하기 위한 조직체계(CSMS)를 갖추고, 차량 자체에 대한 보안관리를 수행해야 함

 

   - (조직체계) 제작사 조직 내에 보안 위협을 식별·평가·분류·관리하기 위한 프로세스 등 보안 관리를 위한 각종 프로세스를 구축해야 함

 

   - (차량 자체 보안관리) 차량에 대한 보안위협 식별·평가 및 보안조치*, 보안 관련 충분한 사전시험 등을 수행해야 함

 

    * (주요내용) ①사이버 공격의 탐지 및 예방 조치, ②위험 모니터링 지원 조치, ③사이버 공격에 대한 분석을 위한 “데이터 포렌식” 지원 조치 등

 

 ㅇ (보안 정책방향 개요) EU의 기준시행일에 맞춰 ’22.7월 국내기준 시행을 목표로 자동차관리법 및 하위법령을 개정할 계획

 

   - 아울러, 보안 기준에 따라 차량을 시험·평가하고 사이버 위협 등을 모니터링 할 수 있도록 자동차 보안센터 구축

 

□ 향후 추진계획

 

 ㅇ 자동차관리법 개정 추진 및 자동차 보안센터 기본·실시설계(’21~)

 

자율주행차 융ㆍ복합 미래포럼 개요

 

□ 포럼 개요

 

 ㅇ (목적) 급변하는 자율주행차 관련 기술에 대한 선제적인 대응과 국내 자율주행차 산업 육성 및 제도 개선을 위해 사회 각 분야의 전문가 의견을 수렴하여 효과적인 정책수립 및 개선안 제시(`16.6 발족)

 

 ㅇ (구성) 정부부처 7개*, 산ㆍ학ㆍ연 60여개 기관, 100여명 전문가

     * 국토부, 국무조정실, 기재부, 과기부, 산업부, 환경부, 경찰청

 

 

 

 

□‘20년 운영 성과

 

 ㅇ (운영 내용) 분과회의 8회, 운영위원회의 1회, 분과별 기획연구 점검회의 5회, 세미나 1회(12.15 예정) 등 총 15회 회의 개최

 

  - 최종 성과발표를 위한 성과 발표회 개최 및 미래포럼 주요 활동 내용을 수록한 활동보고서 발간(‘20.12)

 

 ㅇ (운영 성과) 자율주행 시범운행지구 사업성과 평가를 위한 정량·정성지표를 개발하여 연차별 시범운행지구 평가방안(안) 마련

 

  - 로봇택시 등 무인 자율주행차 운행 및 무선 소프트웨어 업데이트 연구 등을 통해 관련 정책ㆍ제도 개선 방안 제안

 

 

자율주행 레벨에 따른 구분

     

□ 자율주행 기술레벨 정의

         

□ 레벨3와 레벨4 비교

 

 ㅇ (레벨3) 운전자는 운전석에 위치하여 운전 이외의 다른 행위(핸드폰, 영상시청 등)가 가능하지만, 제어권 전환 요구를 받은 경우 일정 시간  (10초) 이내에 운전을 개시해야 함

 

   * 전방 차량에 대한 최소안전거리 유지, 운전자의 운전가능여부 확인 위한 모니터링 실시, 상황별 제어권 전환 요구, 긴급상황 대응 및 운전자의 대응이 없는 경우 위험최소화운행 등과 관련된 안전기준 개정 완료(‘20.7.1 시행)

 

 ㅇ (레벨4) 모든 운전조작을 시스템이 책임지고 수행하므로 운전자가 불필요하며 제어권 전환 개념이 요구되지 않음

 

   * 운전자 없이 시스템이 모든 상황을 책임지고 대응할 수 있도록 가이드라인 제시를 통해 안전한 제작 유도