https://bdtechtalks.com/2020/07/29/self-driving-tesla-car-deep-learning/
레벨5 자율주행 자동차

기본적으로 완전 자율 주행 자동차에는 운전대와 운전석도 필요하지 않습니다. 승객은보다 생산적인 
작업을하면서 차 안에서 시간을 보낼 수 있어야합니다.

현재의 자율 주행 기술은 레벨 2 또는 부분 자동화에 도달 해 있습니다. 
Tesla의 Autopilot은 특정 조건에서 가속, 조향, 제동과 같은 일부 기능을 수행 할 수 있습니다. 

그리고 운전자는 항상 자동차를 제어하고 오토 파일럿이 켜져있을 때 핸들에 손을 얹고 있어야합니다.
자율 주행 기술을 테스트하는 다른 회사는 여전히 AI가 실수를 할 때 (법적인 이유로도) 뛰어들 수있는 운전자가 있습니다.



자율 주행 차의 하드웨어와 소프트웨어

머스크가 발언에서 제기 한 또 다른 중요한 점은 Tesla 자동차가 "단순히 소프트웨어 개선을 통해"
레벨 5 자율성을 달성 할 것이라고 믿는다는 것입니다.
Waymo와 Uber를 포함한 다른 자율 주행 자동차 회사는 레이저를 투사하여 자동차 주변의 3 차원지도를 만드는 하드웨어인 라이다를 사용합니다.

반면에 Tesla는 주로 도로와 거리를 탐색하기 위해 컴퓨터 비전 소프트웨어로 구동되는 카메라에 
의존합니다. Tesla는 딥 뉴럴 네트워크를 사용하여 차량 주변에 설치된 8 대의 카메라의 비디오 피드에서 도로, 자동차,
물체 및 사람을 감지합니다. (Tesla에는 전면 레이더 및 초음파 물체 감지기도 있지만 대부분 작은 역할을합니다.)
Tesla의 컴퓨터 비전 전용 접근 방식에는 논리가 있습니다. 우리 인간도 대부분 비전 시스템에 의존하여 운전합니다. 
물체를 감지하고 충돌을 방지하기 위해 뇌에 연결된 3D 매핑 하드웨어가 없습니다.

하지만 여기에서 모든 것이 무너지는 곳입니다. 현재의 신경망은 인간 비전 시스템의 대략적인 모방을 기껏해야 
복제 할 수 있습니다. 딥 러닝은 인간이하는 방식으로 세상을 이해하지 못하는 뚜렷한 한계가 있습니다. 

신경망이 안정적으로 작동하려면 엄청난 양의 학습 데이터가 필요하며, 학습 데이터에 포함되지 않은 새로운 상황에 
직면 할 때 인간의 유연성이 없습니다.

이것은 머스크가 그의 발언에서 암묵적으로 인정한 것입니다. "[Tesla Autopilot]은 대부분의 엔지니어링이 미국에 있기
때문에 미국 에서처럼 중국에서 잘 작동하지 않습니다." 여기에서 Tesla의 컴퓨터 비전 알고리즘에 대한 대부분의 교육 
데이터가 제공됩니다.



딥 러닝의 롱테일 문제

인간 운전자는 또한 새로운 도시나 마을 또는 이전에 경험하지 못한 기상 조건 (눈 또는 얼음으로 덮인 도로, 흙길, 짙은 안개)과 
같은 새로운 환경과 환경에 적응해야합니다. 그러나 우리는 직관적 인 물리학, 상식, 그리고 새로운 상황을 다룰 때 합리적인 결정을 내리기 위해 세상이 어떻게 작동하는지에 대한 지식을 사용합니다.

우리는 인과 관계를 이해하고 어떤 사건이 다른 사람을 유발하는지 결정할 수 있습니다. 우리는 또한 우리 환경에서 다른 합리적 행위자의 목표와 의도를 이해하고 그들의 다음 행동이 무엇인지 확실하게 예측합니다. 예를 들어 보도에서 방치 된 유아를 처음 본다면 당신은 자동으로 당신이 더 많은주의를 기울이고 있다는 것을 알게됩니다. 

길거리에서 처음으로 길을 잃은 코끼리를 만나면 어떨까요? 우회를해야한다는 것을 알기 위해 이전 훈련 예제가 필요합니까?

그러나 당분간 딥 러닝 알고리즘에는 이러한 기능이 없으므로 발생할 수있는 모든 상황에 대해 사전 교육을 받아야합니다.
Tesla의 딥 러닝 알고리즘이 적응 된 환경에서도 예상치 못한 풍경을 잘 처리하지 못한다는 증거가 이미 있습니다. 

2016 년 Tesla는 AI 알고리즘이 밝은 하늘에서 차량을 감지하지 못했기 때문에 트랙터 트레일러 트럭에 충돌했습니다. 
또 다른 사건에서는 Tesla가 콘크리트 장벽으로 스스로 운전하여 운전자가 사망했습니다. 그리고 Autopilot에서 Tesla 차량이 주차 된 소방차와 전복 된 차량에 충돌하는 사고가 여러 차례있었습니다. 모든 경우에 신경망은 훈련 데이터에 포함되지 않았거나 훈련 된 것과 너무 다른 장면을보고있었습니다.

Tesla는 이러한 새로운 상황이 호출됨에 따라 "에지 케이스"를 처리하기 위해 딥 러닝 모델을 지속적으로 업데이트하고 있습니다. 
하지만 문제는 이러한 엣지 케이스가 얼마나 많이 존재하는지 모른다는 것입니다. 그것들은 사실상 무한하며, 
딥 러닝이 해결해야하는 문제의 "롱테일"이라고도합니다.

머스크는 또한 상하이 AI 컨퍼런스에 대한 그의 발언에서 다음과 같이 지적했습니다. "나는 레벨5 자율주행을 구현하는데 
근본적인 문제가 있는 것은 아니라고 생각한다. 많은 작은 문제가 있고 모든 작은 문제를 해결 한 다음 전체 시스템을 통합하고 문제의 긴 꼬리를 계속 해결해야하는 도전이 있습니다. "

여기서 핵심은 머스크가“근본적인 도전은 없다”고 믿는 사실입니다. 이는 현재의 AI 기술이 점점 더 많은 예제에 대해 교육을 받고 
아마도 약간의 아키텍처 업데이트를 받아야 함을 의미합니다. 그는 또한 가상 환경에서 시뮬레이션 할 수있는 문제가 아니라고 말했습니다.

“실제 상황이 필요합니다. 현실 세계보다 더 복잡하고 이상한 것은 없습니다.”라고 Musk는 말했습니다. 
"우리가 만드는 모든 시뮬레이션은 필연적으로 실제 세계의 복잡성의 하위 집합입니다."
현실 세계의 데이터를 통해 자율 주행 문제를 해결할 수있는 기업이 있다면 아마도 테슬라 일 것입니다. 이 회사는 매우 포괄적인 데이터 수집 프로그램을 보유하고 있습니다. 이는 자율 주행 자동차를 개발하는 소프트웨어 회사의 자율 주행 소프트웨어를 수행하는 다른 자동차 제조업체보다 우수합니다. 전 세계적으로 판매 된 수십만 대의 자동차에서 지속적으로 새로운 데이터를 수집하고 이를 사용하여 알고리즘을 미세 조정하고 있습니다.

하지만 더 많은 데이터가 문제를 해결할까요?



보간 vs 외삽

AI 커뮤니티는 "롱테일"문제를 해결하는 방법에 따라 나뉩니다. 주로 딥 러닝 연구자들이 지지하는 한 가지 견해는 더 큰 
데이터 세트에 대해 훈련된 더 크고 복잡한 신경망이 결국 인지작업에서 인간 수준의 성능을 달성 할 것이라는 것입니다. 
여기서 주요 주장은 인공 지능의 역사가 컴퓨팅 하드웨어의 발전과 더 많은 데이터의 가용성에 따라 확장 할 수있는 솔루션이 미래의 문제를 해결하는 데 더 유리하다는 것을 보여 주었다는 것입니다.

이것은 Tesla의 딥 러닝 알고리즘을 점진적으로 개선하여 자율 주행 자동차를 해결하는 Musk의 접근 방식을 지원하는
보기입니다. 

빅 데이터 접근 방식을 지원하는 또 다른 주장은 "직접 적합"관점입니다. 일부 신경 과학자들은 인간의 뇌가 직결 기계라고
믿습니다. 즉, 이전에 본 데이터 포인트 사이의 공간을 채운다는 것입니다. 여기서 핵심은 광범위한 문제 영역을 포괄 할 수
있는 올바른 데이터 분포를 찾는 것입니다.

이러한 전제가 옳다면 Tesla는 차량에서 점점 더 많은 데이터를 수집함으로써 궁극적으로 완전한 자율성을 달성 할 것입니다. 
그러나 방대한 데이터 저장소를 효율적으로 사용하는 방법을 알아 내야합니다.

반면에 인간의 마음은 각 환경에서 높은 수준의 규칙, 기호 및 추상화를 추출하고이를 사용하여 명시적인 교육 없이도 
새로운 설정과 시나리오로 추정합니다.

나는 개인적으로 후자의 견해를 지지 합니다. 일종의 추상화와 기호 조작 없이는 딥 러닝 알고리즘이 인간 수준의 
운전 능력에 도달 할 수 없다고 생각합니다.

딥 러닝 시스템을 개선하기위한 많은 노력이 있습니다. 한 가지 예는 신경망과 상징적 AI를 결합하여 딥 러닝에 추상화를 
처리 할 수있는 기능을 제공하는 하이브리드 인공 지능입니다.

주목할만한 또 다른 연구 분야는 "시스템 2 딥 러닝"입니다. 딥 러닝의 선구자 인 Yoshua Bengio가 승인한 이 접근 방식은 
순수 신경망 기반 접근 방식을 사용하여 딥 러닝에 기호 조작 기능을 제공합니다. Bengio의 오랜 동료 인 Yann LeCun은 
어린이와 마찬가지로 인간의 많은 도움과 지시없이 스스로 세계를 탐험함으로써 배울 수있는 딥 러닝 시스템 인“자기지도 학습”을 연구하고 있습니다. Bengio와 LeCun의 멘토 인 Geoffrey Hinton은 픽셀을 관찰하여 세계의 준 3 차원 표현을 생성 할 수있는 또 다른 신경망 아키텍처 인 "캡슐 네트워크"를 연구하고 있습니다.

이것들은 모두 절실히 필요한 상식, 인과성, 직관적 인 물리학을 딥 러닝 알고리즘에 통합 할 유망한 방향입니다. 
그러나 그들은 아직 초기 연구 단계에 있으며 자율 주행 자동차 및 기타 AI 애플리케이션에 배포 할 준비가 거의되지 않았습니다. 

따라서 머스크의 "2020 년 말"기간에는 제외 될 것이라고 생각합니다.



인간과 AI 운전자의 비교

내가 많이 듣는 주장 중 하나는 인간 운전자도 많은 실수를한다는 것입니다. 인간은 피곤하고 산만하고 무모하고 술에 취해
자율 주행 차보다 더 많은 사고를 유발합니다. 인적 오류에 대한 첫 번째 부분은 사실입니다. 하지만 인간 운전자와 AI의 
사고 빈도를 비교하는 것이 올바른지 잘 모르겠습니다. 나는 표본 크기와 데이터 분포가 아직 정확한 그림을 그리지 
못한다고 생각합니다.

그러나 더 중요한 것은 이 시점에서 숫자를 비교하는 것이 오해의 소지가 있다고 생각합니다. 더 중요한 것은 
인간과 AI가 세상을 인식하는 방식의 근본적인 차이입니다.

우리의 눈은 많은 정보를 받지만 우리의 시각 피질은 움직임, 모양, 특정 색상 및 질감과 같은 특정 사물에 민감합니다. 
수십억 년의 진화를 통해 우리의 비전은 음식을 발견하고 위험을 피하는 것과 같이 생존에 중요한 다양한 목표를 달성하도록 연마되었습니다.

그러나 아마도 더 중요한 것은 우리의 자동차, 도로, 보도, 도로 표지판 및 건물이 우리 자신의 시각적 선호도를 수용하도록 
진화했다는 것입니다. 정지 표지판, 차선 구분선, 점멸 장치 등의 색상과 모양을 생각해보십시오. 우리는 인간 비전 시스템의 일반적인 선호도와 감성을 기반으로 의식적으로든 아니든 이러한 모든 선택을 했습니다.

따라서 우리는 많은 실수를 하지만 자율 주행 자동차를 구동하는 AI 알고리즘보다 우리의 실수는 덜 이상하고 예측하기 쉽습니다. 
적절한 사례 : 제정신이있는 인간 운전자는 전복 된 차나 주차 된 소방차에 곧바로 운전하지 않을 것입니다.

머스크는 그의 발언에서“레벨 5 자율성에 대해 감사해야 할 점은 인간의 안전과 관련하여 공공 거리에서 허용되는 
수준의 안전입니다.

따라서 인간보다 두 배 더 안전하면 충분합니다. 규제 당국이 인간과 동등한 안전을 수용 할 것이라고 생각하지 않습니다. 
그래서 질문은 두 배나 안전할까, 다섯 배나, 10 배나 안전할까 하는 것입니다”

하지만 딥 러닝 알고리즘이 일반인과 동등하거나 더 나은 결과를 생성하는 것만으로는 충분하지 않다고 생각합니다. 
이러한 결과에 도달하기 위해 거치는 과정이 특히 인간 운전자를 위해 만들어진 도로에서 사용되는 경우 인간의 마음을 
반영하는 것도 중요합니다.

해결해야 할 기타 문제 인간과 경찰의 차이를 감안할 때 인간의 비전 시스템을 정확히 복제하는 AI 알고리즘을 기다려야하거나 (곧 개발되지는 않을 것 같음) 현재 AI 알고리즘과 하드웨어가 믿을만하게 작동하는지 확인하기 위해 다른 경로를 
취할 수 있습니다.

그러한 경로 중 하나는 자동차에 존재하는 하드웨어와 소프트웨어를 수용하기 위해 도로와 인프라를 변경하는 것입니다.
 예를 들어 도로, 차선 분할기, 자동차, 도로 표지판, 교량, 건물 및 물체에 스마트 센서를 내장 할 수 있습니다. 이렇게하면 
이러한 모든 개체가 서로를 식별하고 무선 신호를 통해 통신 할 수 있습니다. 컴퓨터 비전은 자율 주행에서 여전히 중요한
 역할을 할 것이지만 자동차와 그 환경에 존재하는 다른 모든 스마트 기술을 보완 할 것입니다. 이는 5G 네트워크가 서서히
 현실화되고 스마트 센서 및 인터넷 연결 가격이 하락함에 따라 점점 더 가능 해지고있는 시나리오입니다.

말과 수레에서 자동차로의 전환과 함께 우리의 도로가 진화했듯이, 소프트웨어 구동 및 자율 주행 자동차의 등장으로
 더 많은 기술적 변화를 겪을 것입니다.

그러나 이러한 변화에는 정부, 자동차 제조업체 및 자율 주행 자동차와 도로를 공유하게 될 다른 모든 물체의 
제조업체로부터 시간과 막대한 투자가 필요합니다.

그리고 우리는 여전히 인터넷에 연결된 칩을 모든 것에 넣는 개인 정보 보호 및 보안 위협을 조사하고 있습니다.
중간 시나리오는 "지오 펜싱 된"접근 방식입니다. 자율 주행 기술은 기능이 완전히 테스트되고 승인 된 지역, 
스마트 인프라가있는 지역, 자율 주행 차량에 대한 규정이 조정 된 지역에서만 작동 할 수 있습니다

 (예 : 보행자는 도로에 진입 할 수 없습니다. 제한 등). 일부 전문가는 이러한 접근 방식을 "목표 포스트 이동"또는 
부분적으로 올바른 문제 재정의라고 설명합니다. 그러나 현재의 딥 러닝 상태를 고려할 때 자율 주행 기술의 
야간 출시에 대한 전망은 그다지 유망하지 않습니다. 이러한 조치는 기술이 향상되고 인프라가 발전하며 

규제가 조정됨에 따라 자율 주행 차량으로 원활하고 점진적으로 전환하는 데 도움이 될 수 있습니다.
법적 장애물도 있습니다. 우리는 사람이 운전하는 자동차가 사고를 일으킬 때 누가 책임이 있는지를 결정하는
 명확한 규칙과 규정을 가지고 있습니다. 

그러나 자율 주행 차는 여전히 회색 영역에 있습니다. 현재 운전자는 Tesla가 Autopilot 모드 일 때도 
자신의 행동에 대해 책임이 있습니다. 

하지만 레벨 5 자율 주행 차에는 사고를 탓할 운전자가 없습니다. 그리고 나는 자동차 제조업체가 자동차로 
인한 모든 사고에 대해 책임을 진다면 완전 자율 주행 자동차를 기꺼이 출시 할 것이라고 생각하지 않습니다.



2020 년 데드라인에 대한 많은 허점

이 모든 이야기들은 머스크의 발언에 2020년까지 테슬라의 완전자율주행을 이루지 못할 많은 헛점을 보여주고 있다고 생각함니다.

첫째, 그는“우리는 레벨 5 자율성에 매우 가깝습니다.”라고 말했습니다. 맞는 말입니다. 하지만 많은 엔지니어링 문제, 
특히 인공 지능 분야에서 해결하는 데 오랜 시간이 걸리는 마지막 단계입니다. 그래서 우리는 완전 자율 주행 차에 
도달하는데 매우 가까웠지만 언제 마침내 격차를 좁힐지는 분명하지 않습니다.

머스크는 또한 테슬라가 올해 완성 된 레벨 5 자율주행을 위한 기본 기능을 갖게 될 것이라고 말했습니다. 
기본이라는 것이 "완전하고 배포 할 준비가 됨"을 의미하는지 확실하지 않습니다.
그리고 그는 Teslas가 연말까지 완전자율주행이 가능해 지면 정부와 규제 당국이 Teslas를 도로에서 
허용 할 것이라고 약속하지 않았습니다.

머스크는 천재이자 뛰어난 기업가입니다. 하지만 자율 주행 차 문제는 한 사람이나 한 회사보다 훨씬 큽니다. 
그것은 많은 과학적, 규제 적, 사회적, 철학적 영역의 교차점에 서 있습니다.

제 입장에서는 연말이나 가까운 시일내에 도로에서 무인 테슬라를 볼 수는 없을 것이라고 생각합니다.