Jurnalis Ungkap Tesla FSD Nyaris Tabrak Parit di Highway

Telset.id – Insiden menegangkan dialami Fred Lambert, pemimpin redaksi Electrek, saat menguji Tesla Full Self-Driving (FSD) di Kanada. Mobilnya nyaris melaju keluar dari jalan tol menuju parit karena sistem navigasi otonom tersebut mengambil keputusan salah pada kecepatan tinggi. Kejadian ini kembali menyoroti risiko kepercayaan berlebih pada teknologi yang mengklaim kemampuan mengemudi mandiri.

Lambert mengaku hanya campur tangan cepat yang menyelamatkan dirinya dan penumpang dari kecelakaan serius. Peristiwa terjadi pada hari Minggu saat ia melaju di Autoroute 55, wilayah Mauricie, Quebec. Insiden ini menjadi bukti nyata bahwa sistem FSD yang dianggap andal pun bisa gagal secara kritis di kondisi yang tampak sempurna.

Kejadian berlangsung saat Lambert mengendarai Tesla dengan versi FSD terbaru, v14.3.6, dengan kecepatan sekitar 68 mil per jam di lajur kanan. Visibilitas sangat jelas, lalu lintas lengang, dan marka jalan baru saja dicat ulang. Kondisi ini, menurut pengalamannya, seharusnya menjadi skenario ideal bagi sistem Full Self-Driving untuk beroperasi.

Masalah muncul saat mobil melewati sebuah pintu keluar. Secara tiba-tiba, sistem mengaktifkan lampu sein dan mulai berbelok menuju bahu jalan, padahal tulisan “self-driving” masih tampil di layar. “Masalahnya, ramp sudah berada di belakang kami. Mobil akan langsung membawa kami ke parit karena berbelok terlalu telat di kecepatan secepat itu,” tulis Lambert dalam laporannya.

Ia menambahkan bahwa mobil memutuskan untuk mengambil jalan keluar yang seharusnya tidak diambil sama sekali. Lambert, yang secara ekstensif meliput perkembangan Tesla, mengaku tidak menyangka FSD akan gagal dalam kondisi berkendara yang sederhana seperti itu. Kepercayaannya pada sistem yang selama ini bekerja baik justru menjadi bumerang.

“Berdasarkan semua yang saya lihat dari v14, berkendara di jalan tol pada malam hari di jalan kosong adalah kondisi terbaik bagi sistem ini,” ujarnya. “Saya sudah menempuh ribuan kilometer dalam kondisi persis seperti ini tanpa menyentuh apa pun. Karena itulah saya percaya diri. Dan rasa percaya diri itulah jebakannya.”

Insiden ini menambah daftar panjang kegagalan sistem yang namanya memang kontroversial. Meski disebut “Full Self-Driving”, fitur ini sebenarnya tidak sepenuhnya mengemudikan mobil secara mandiri. Nama lengkapnya adalah Full Self-Driving (Supervised), dengan tambahan kata “Supervised” sebagai konsekuensi tekanan dari regulator atas potensi iklan yang menyesatkan.

Sistem ini tetap membutuhkan pengawasan konstan dari pengemudi yang harus siap mengambil alih kendali sewaktu-waktu. Hal ini secara langsung mematahkan anggapan bahwa perangkat lunak tersebut sepenuhnya otonom. Namun, CEO Tesla Elon Musk berulang kali menyatakan bahwa mobil-mobilnya memang bisa “menyetir sendiri”.

Jika benar demikian, catatan keselamatan sistem ini jauh dari memadai. Mobil dengan FSD pernah berulang kali mencoba melaju ke arah kereta yang melintas, hingga memicu investigasi dari regulator federal. Sistem ini juga terlibat dalam sejumlah kecelakaan fatal, termasuk insiden menabrak seorang wanita lanjut usia saat kamera diduga dibutakan oleh sinar matahari.

Paradoksnya, FSD memang bekerja dengan baik sebagian besar waktu, dan justru itulah sumber masalahnya. Lambert sebelumnya pernah berargumen bahwa “sistem yang bekerja hampir sempurna menciptakan jebakan — pengemudi mempercayainya cukup untuk berhenti memperhatikan, tetapi sistem masih gagal secara tak terduga dan terkadang kritis.”

“Saya berdiri di belakang setiap kata, dan Minggu malam adalah demonstrasinya,” tegasnya. “Beberapa ribu mil di antara intervensi kritis adalah pencapaian teknik yang mengesankan. Tetapi itu juga interval yang mengajarkan otak Anda untuk berhenti memindai jalan.”

Pengalaman Lambert bukan kasus terisolasi. Pada bulan Maret, seorang wanita menggugat Tesla setelah Cybertruck dengan mode self-driving miliknya mencoba menjatuhkan mobil dari sisi jembatan. Rekaman menunjukkan kendaraan itu berakselerasi menaiki ramp layang dengan kecepatan tinggi sebelum menabrak pembatas beton.

Insiden-insiden ini menimbulkan pertanyaan besar tentang keselamatan dan regulasi teknologi otonom. Meskipun pengembangan AI untuk kendaraan terus berlanjut, kegagalan seperti yang dialami Lambert menunjukkan bahwa teknologi ini masih jauh dari sempurna dan membutuhkan evaluasi ketat sebelum diadopsi secara luas.

Kasus ini juga menjadi pelajaran penting bagi pengguna teknologi AI di berbagai sektor. Ketergantungan berlebihan pada sistem otomatis yang bekerja “hampir sempurna” bisa berujung pada kelengahan fatal. Pola yang sama juga terlihat di industri lain, seperti penggunaan AI di media yang memicu perdebatan etika.

Lambert, yang memiliki pengalaman luas menguji berbagai versi FSD, mengakui bahwa teknologi ini memang menunjukkan kemajuan signifikan. Namun, insiden Minggu malam menjadi pengingat keras bahwa kemajuan tersebut tidak berarti sistem bebas dari kegagalan. Bahkan dalam kondisi paling ideal sekalipun, keputusan yang salah bisa berakibat fatal.

Kejadian ini menyoroti kebutuhan mendesak akan regulasi yang lebih ketat dan transparansi dari produsen kendaraan otonom. Pengemudi harus selalu memahami batas kemampuan sistem yang mereka gunakan, dan perusahaan teknologi harus bertanggung jawab atas klaim pemasaran yang mereka buat.

Seiring perkembangan teknologi, pertanyaan tentang kesiapan sistem otonom untuk digunakan publik secara luas masih belum terjawab. Pengalaman Lambert menunjukkan bahwa meskipun data menunjukkan tingkat keberhasilan tinggi, satu kegagalan kritis saja bisa berakibat fatal. Kepercayaan publik terhadap teknologi ini bergantung pada kemampuan industri untuk menjamin keselamatan secara konsisten.

Fenomena serupa juga terjadi dalam pengembangan AI di bidang lain, seperti yang dibahas dalam artikel tentang tantangan AI di ruang redaksi, di mana teknologi canggih tetap membutuhkan pengawasan manusia. Pola yang sama berlaku untuk kendaraan otonom: AI mungkin membantu, tetapi keputusan akhir harus tetap berada di tangan manusia.

Insiden yang dialami Lambert menjadi studi kasus penting tentang batas teknologi otonom. Meskipun FSD telah melalui ribuan mil pengujian, kegagalan seperti ini menunjukkan bahwa sistem masih memiliki celah yang belum teratasi. Pertanyaan tentang kapan teknologi ini benar-benar siap untuk digunakan tanpa pengawasan ketat masih jauh dari jawaban.

Bagi pengguna Tesla dan kendaraan otonom lainnya, insiden ini menjadi peringatan untuk tidak pernah sepenuhnya menyerahkan kendali kepada sistem. Teknologi memang dirancang untuk membantu, tetapi keselamatan tetap menjadi tanggung jawab utama pengemudi di belakang kemudi.