최초로 기록된 테슬라 로보택시 개입: UPS 트럭 조우 [영상]

지난 며칠 동안 Tesla의 Robotaxi Network 파일럿에서 최신 버전의 FSD가 매우 원활하게 작동하는 것을 확인했습니다. 하지만 Safety Monitors를 통한 조기 액세스 프로그램의 궁극적인 목적은 예외적인 상황을 파악하고 이를 통해 교훈을 얻는 것입니다.

이번 주, 대중은 Safety Monitor의 개입이 기록된 최초의 사례를 목격했으며, 이를 통해 차량을 어떻게 정지해야 하는지 처음으로 알게 되었습니다.

이 사건은 후진하는 UPS 트럭과 복잡하고 저속으로 상호 작용하는 것이었습니다. Safety Monitor는 Robotaxi를 즉시 정지시켜 배송 트럭과의 충돌을 피할 수 있었습니다. 현실 세계의 예측 불가능성을 보여주는 이 교과서적인 사례를 분석해 보겠습니다.

개입 [영상]

오스틴 주행 영상에서 로보택시가 방향 지시등을 켜고 도로 오른쪽에 정차할 준비를 하고 있습니다. 전방에서 UPS 트럭이 멈춥니다. Model Y가 해당 지점으로 방향을 전환하기 시작하자, UPS 트럭은 방향 지시등 없이 후진하기 시작합니다. 이때 안전 모니터가 개입하여 메인 디스플레이의 차선 이탈 버튼을 눌러 로보택시를 즉시 정지시킵니다.

이것이 바로 테슬라가 이 초기 시범 운행에 안전 모니터를 도입한 이유입니다. 안전 모니터는 다른 운전자의 의도가 불분명한 모호한 상황을 사전에 관리하기 위한 것입니다. 시스템은 설계된 대로 작동했지만, 핵심적인 의문이 제기됩니다. FSD가 스스로 어떤 조치를 취했을까요? 차량이 트럭의 후진을 감지했는지, 아니면 마침내 감지했을 때 어떤 조치를 취했는지는 불분명합니다. UPS 운전기사가 로보택시가 정확히 같은 시간에 같은 장소에 진입하고 있다는 것을 인지했는지도 불분명합니다.

충돌로 이어지지 않았을 가능성도 있지만, 안전 감시팀이 저속 충돌이라도 방지하기 위해 개입한 것은 옳은 조치였습니다. 로보택시 네트워크 출시 후 며칠 만에 충돌이 발생하면 테슬라에 심각한 문제를 초래할 수 있습니다.

누구의 잘못일까요?

이 시나리오는 전형적인 예외 상황입니다. 통행 우선권이 불분명하고 인간의 행동이 예측할 수 없기 때문입니다. 인간 운전자에게도 이 경우 통행 우선권은 복잡합니다. 후진하는 차량이 책임을 지는 경우가 많지만, 전진하는 차량도 충돌을 피하기 위해 예방 조치를 취해야 합니다. 이러한 법적, 실무적 모호함 때문에 AI가 이러한 시나리오를 탐색하기가 매우 어렵습니다.

후진하는 트럭이 멈출 것이라고 가정했을 때 로보택시는 계속 주행했을까요?

아니면 잠재적 충돌을 감지하고 자체적인 정지 및 후진 기능을 사용했을까요?

로보택시의 개입 없이는 확실히 말할 수 없습니다. 그러나 놀랍게도 또 다른 UPS 배송 트럭이 등장하는 다른 영상에서 중요한 맥락을 찾을 수 있습니다.

두 대의 트럭 이야기

X에 게시된 다른 영상에서 또 다른 로보택시는 놀라울 정도로 유사한 상황에 직면합니다. 그 순간, 다른 UPS 배송 트럭이 길을 막자 로보택시는 두 승객이 목적지에서 몇 미터 떨어진 곳에서 내리도록 정차합니다.

출발 후, 로보택시는 성공적으로 후진하여 3점 회전을 수행하여 곤경에 처한 상황에서 스스로 탈출합니다. 이 모든 것은 사람의 개입 없이 상황을 정확하게 파악하여 이루어졌습니다. 

이 두 번째 영상은 로보택시의 FSD(Fixed Drive) 시스템이 이러한 상황을 처리할 수 있는 기본 논리와 역량을 갖추고 있음을 보여주기 때문에 매우 중요합니다. 복잡한 상황을 안전하게 탐색하기 위해 후진 기어를 사용할 수 있으며 실제로 사용합니다.

클립을 실행하세요!

UPS 트럭 대 Tesla Robotaxi https://t.co/GLc86BS5bc pic.twitter.com/O2c8c2KRB2

가치 있는 데이터 포인트

이 첫 번째 개입은 실패와는 거리가 멀고 Tesla의 안전 방법론에 대한 성공으로 간주되어야 합니다. 이는 안전 시스템이 작동 중임을 보여주며, 이를 통해 감시자는 모호한 사고를 사전에 완화할 수 있습니다. 더 중요한 것은, 이 사고가 테슬라의 FSD 팀에 귀중한 실제 데이터 포인트를 제공한다는 것입니다. 테슬라 엔지니어들은 개입된 주행과 성공적인 자율 주행 주행을 비교함으로써 FSD의 의사 결정을 미세하게 조정할 수 있으며, 이는 가까운 미래에 극단적인 상황 처리에 긍정적인 영향을 미칠 것으로 예상됩니다. 이것이 바로 공개 시범 운행의 목적입니다. 예측 불가능한 후진 트럭 하나하나에 대해 최종적인 극단적 상황을 파악하고 더욱 강력한 시스템을 구축하는 것입니다.