Un incidente tragico è avvenuto a circa 80 miglia da Sacramento, California, il 16 ottobre 2026. Seguendo le testimonianze dei testimoni, il conducente di Tesla era appena addormentato quando ha attivato la modalità FSD. Le prove video mostrano che la macchina di Tesla aveva accelerato oltre flaconi, coperchi e luci di emergenza come se stesse dirigendosi verso un altro incidente avvenuto poco prima tra agenti della Guardia Costiera di California. Tuttavia, anche se erano presenti questi segnali di avvertimento, la macchina di Tesla proseguì in modo irregolare fino a colpire un veicolo parcheggiato, causando danni significativi e feriti ai poliziotti coinvolti.

Ce cas d'incident montre la nécessité de mener des améliorations continues dans les caractéristiques de sécurité comme la FSD. Bien que Tesla ait introduit des mises à jour pour améliorer la contrôlée du conducteur, l'enquête de l’NHTSA sur les outils logiciels indique encore des améliorations supplémentaires nécessaires. La Marine Californienne informe qu'elle appelle au terme « full self-driving » n'est pas totalement autonome ; les conducteurs doivent toujours rester vigilants et actifs. Après ce cas d'incident, l'NHTSA a lancé une enquête en 2021 concernant l'Autopilot de Tesla. Le rapport a trouvé que les fonctionnalités guidées par l'intelligence artificielle étaient insuffisantes, provoquant de nombreuses collisions et plusieurs décès lorsque les deux solutions système et conducteur ne répondaient pas correctement.

En réponse à cette demande, Tesla a publié une mise à jour en 2023 qui a ajouté plus de contrôles et d'avertissements pour rappeler le conducteur au contrôle total du véhicule lorsque ce dernier utilise l'autorotation. Cependant, l’NHTSA a été obligée d’ouvrir une nouvelle enquête pour déterminer s’il était suffisant ces mises à jour. Comme nous les voyons souvent dans ces accidents, cela montre clairement que bien que la technologie puisse considérablement améliorer la sécurité des conduites, l’aspect humain demeure essentiel. Les partenaires doivent assurer que leurs produits soient conçus avec la sécurité du conducteur en tête et continueront à développer systématiquement leurs systèmes pour prévenir de nouvelles tragédies comme celles-ci.