인공지능 스타트업 CEO인 제시 리우는 자사의 테슬라 차량에서 경험한 무서운 사건을 공유했습니다. 이 차량은 FSD v.13.2.2 자율주행 시스템을 탑재하고 있었습니다.
곡선 도로를 돌 때, 차량이 도로를 기찻길로 착각해 리우는 오토파일럿을 끄고, 다가오는 기차와의 충돌을 피하기 위해 신호를 무시하고 지나가야 했습니다. 그는 이 순간을 “미친 상황”이라고 표현하며, 다가오는 위험을 깨달은 후 “떨고 있었다”고 말했습니다.
리우는 X(구 Twitter)에서 이 사건이 자율주행 시스템이 잘못된 결정을 내렸기 때문에 발생했다고 설명했습니다. 이는 이전 버전에서는 발생하지 않았던 문제였으며, 그는 빠르게 개입하려 했지만, 근처의 울타리와 연석으로 인해 회피할 공간이 부족해 상황이 복잡해졌다고 전했습니다. 즉각적인 위험을 마주한 그는 가능한 유일한 선택인 신호를 무시하고 기찻길을 벗어나기로 결정을 내렸습니다.
“FSD v13.2.2가 나를 산타모니카의 기찻길로 데려갔습니다. 이 비디오를 보내고 있으니, 빠르게 수정해 주시길 바랍니다. (떨고 있었고, 내 생명을 구하기 위해 신호를 무시해야 했습니다)”
이 사건은 SNS에서 논란을 일으켰고, 일부 사용자들은 리우가 개입을 늦췄다고 비판했으며, 다른 이들은 테슬라 시스템의 긴급한 개선을 촉구했습니다. 리우는 오토파일럿의 진전을 인정하면서도 문제의 심각성을 강조하며, 테슬라가 이러한 오류를 수정해 향후 유사한 상황을 방지할 수 있도록 조치를 취할 것을 요구했습니다. 특히, 감독 없이 자율주행이 도입될 예정인 가운데 이러한 상황을 피해야 한다고 말했습니다.
출처: Unilad | 사진: X @jessechenglyu | 이 콘텐츠는 AI의 도움을 받아 작성되었으며, 편집팀에서 검토했습니다.