Industri AI Bidik Pasar Hukum, Verifikasi Tetap Tugas Pengacara

Telset.id – Tiga dari empat laboratorium AI utama dunia kini berlomba menyasar sektor hukum, meski pengacara di berbagai negara terus dihukum karena menyerahkan berkas berisi kutipan kasus fiktif hasil AI. Google, Anthropic, dan SpaceXAI tercatat telah meluncurkan atau menawarkan produk yang ditujukan bagi kalangan pengacara sepanjang tahun ini, sebuah dorongan yang menguat justru ketika sanksi terhadap penggunaan AI tanpa verifikasi terus menumpuk.

Google menempatkan Gemini Enterprise for Legal dalam tahap preview pada akhir Agustus bersama empat firma hukum terbesar dunia, tiga bulan setelah Anthropic merilis produk yang kini dikenal sebagai Claude Legal Solutions. Elon Musk juga menunjukkan minat serupa, dengan laboratorium SpaceXAI memasang halaman solusi hukum khusus di situsnya. Langkah ini menandai ekspansi industri AI ke layanan hukum yang semakin intensif, bahkan saat para pengacara masih terus disanksi dan dicela karena mengajukan dokumen berisi yurisprudensi palsu.

Tekanan terhadap profesi hukum sendiri bukan isapan jempol. Pada Juni, Ontario Law Society Tribunal memerintahkan pengacara Shahryar Mazaheri membayar puluhan ribu dolar karena menggunakan berkas yang disusun dengan Grok, yang memuat kutipan kasus palsu. Basis data peneliti Damien Charlotin telah mencatat hampir 2.000 kasus serupa di seluruh dunia, melibatkan lebih dari 800 pengacara dan 1.100 pihak yang mewakili diri sendiri.

Pengacara Terus Tertangkap Menyerahkan Berkas AI

Ontario Law Society menemukan pada Desember lalu bahwa Mazaheri menggunakan versi awal Grok untuk menyusun factum, yakni argumen hukum tertulis, bagi banding seorang klien. Dokumen tribunal menyebutkan hal ini menghasilkan kutipan yang difabrikasi dan prinsip hukum yang direkayasa. Keputusan biaya yang diterbitkan pada Juni memerintahkan Mazaheri membayar $31.150, dengan para adjudikator mencatat bahwa LLM “tidak menghargai nuansa atau menggunakan penilaian atau menggunakan kompas moral,” dan “sangat cenderung memberikan jawaban — jawaban apa pun — daripada mengakui ketidaktahuan.” Para adjudikator menggambarkan materi buatan AI tersebut sebagai “gibberish.”

Sullivan & Cromwell, firma hukum bergengsi yang termasuk salah satu dengan pendapatan tertinggi di Amerika Serikat dan membayar pengacara tahun pertamanya $225.000 sebagai gaji pokok, termasuk yang bersalah. Firma ini mengajukan surat darurat ke Southern District of New York pada April setelah mosi kebangkrutan yang diserahkan kepada Chief Judge Martin Glenn ditemukan memuat 42 fabrikasi buatan AI. Di pengadilan Kanada saja, kasus yang dilaporkan melibatkan kutipan yang difabrikasi meningkat dari hanya tujuh pada 2024 menjadi 86 pada 2025, dengan 39 kasus lagi pada kuartal pertama 2026.

Sebelum perusahaan AI besar mana pun merilis alat hukum khusus, DoNotPay membatalkan rencana pada awal 2023 untuk membuat “robot lawyer” AI berargumen di pengadilan setelah asosiasi pengacara negara bagian mengancam akan melakukan penuntutan pidana.

Dirancang untuk Verifikasi

Google dan Anthropic sama-sama menyiratkan bahwa produk hukum mereka dibangun untuk verifikasi. Produk Google mengarahkan kueri melalui konektor ke basis data hukum eksternal seperti Everlaw dan NetDocuments, alih-alih mengandalkan data pelatihan model secara terpisah. CEO Google Cloud Thomas Kurian mengatakan saat peluncuran bahwa “memastikan setiap aspek dari alur kerja agentic ini akurat, faktual, dan berpijak pada otoritas hukum adalah hal yang sangat penting.” Gottlieb, Freshfields, Weil dan Williams & Connolly, empat firma hukum terbesar dunia, terlibat dalam program preview tersebut.

Anthropic mengambil pendekatan serupa dengan produk Claude Legal Solutions. Produk ini mencakup 20 konektor ke platform hukum bersama 12 plugin yang sudah dibangun. Lab tersebut mengklaim skor 90,9 persen pada benchmark penalaran hukum BigLaw Bench untuk Opus 4.7 dan mencatat Freshfields dan Quinn Emanuel sebagai pelanggannya. Perbedaan kunci antara produk-produk ini dan kasus Mazaheri adalah alih-alih meminta model menghasilkan kutipan dari ingatan, produk tersebut menariknya dari sumber eksternal yang terverifikasi.

Produk hukum bertenaga Grok milik SpaceXAI, sementara itu, memiliki kredensial yang lebih tipis. Sebuah posting blog Cursor menyatakan bahwa Grok 4.5 cocok untuk “keuangan, pekerjaan hukum, atau apa pun yang Anda lakukan di komputer,” tetapi pengumuman SpaceXAI berikutnya untuk model tersebut berfokus pada “coding, tugas agentic dan knowledge work” dan tidak menyebut aplikasi hukum. Halaman itu juga tidak mengungkapkan arsitektur atau mekanisme untuk melacak kutipan ke sumber primer. SpaceX resmi mengakuisisi Cursor senilai $60 miliar pada 15 Agustus, membawa pemasaran hukum editor kode tersebut di bawah payung Grok.

Verifikasi tetap menjadi tugas pengacara. Dalam studi 2024, RegLab Stanford menemukan tingkat halusinasi 17 persen dan 33 persen setelah menguji platform AI hukum yang dibangun khusus dari LexisNexis dan Westlaw. Belum ada audit independen yang sebanding untuk melihat alat hukum Google atau Anthropic. Semua pengacara tunduk pada aturan asosiasi pengacara yang menempatkan kewajiban memverifikasi kutipan pada pengacara yang mengajukannya, terlepas dari apakah AI digunakan atau tidak.

Denda $31.150 terhadap Mazaheri bukan dijatuhkan karena ia menggunakan AI, melainkan karena output-nya tidak diperiksa secara menyeluruh. Kewajiban itu tidak akan berubah, tak peduli seberapa hati-hati alat AI hukum dirancang, atau berapa banyak pengaman vendor yang disertakan di dalamnya. Dorongan industri AI ke sektor hukum, dengan demikian, berjalan berdampingan dengan tanggung jawab profesional yang tetap berada di tangan manusia.