Perusahaan Mulai Batasi Token AI, Akhir Era Tokenmaxxing

Telset.id – Era pemborosan token AI tampaknya akan segera berakhir. Setelah sebelumnya mendorong perusahaan untuk memaksimalkan penggunaan kecerdasan buatan, kini banyak perusahaan mulai menerapkan pembatasan token atau token rationing. Perubahan ini dipicu oleh kenyataan bahwa pengeluaran untuk AI bisa sangat besar namun hasil yang didapatkan justru minim.

Salah satu contoh nyata datang dari perusahaan konsultan global Accenture. Berdasarkan laporan 404 Media, Accenture berusaha menghentikan karyawannya yang menghabiskan cadangan token AI untuk tugas-tugas dasar, seperti mengonversi PDF menjadi slide presentasi. Langkah ini diambil tidak lama setelah Accenture mengancam bahwa karyawan akan “risiko kehilangan promosi” jika tidak menggunakan AI.

Laporan 404 Media ini didasarkan pada rekaman audio bocor dari pertemuan internal Accenture yang melibatkan pimpinan strategi AI agen perusahaan, Justice Kwak. “Kami mencapai titik infleksi di mana AI menjadi material terhadap struktur biaya,” ujar Kwak dalam rekaman tersebut. “Pengeluaran menjadi sangat tidak terduga; dan pimpinan, terutama di level CFO, COO, dan CIO, masih bertanya apakah mereka mendapatkan nilai dari apa yang kami belanjakan dalam konteks AI.”

Biaya token yang tinggi kini mempertanyakan model bisnis AI secara keseluruhan. Hal ini terbukti dengan apa yang disebut sebagai “AI selloff” yang telah menghantam beberapa bisnis yang bergantung pada AI dalam beberapa hari terakhir, terutama produsen chip memori. Industri AI kini mencapai tahap di mana teknologi ini tidak bisa hanya mengandalkan gebrakan dan kebaruan; ia harus membuktikan nilainya.

Fenomena ini juga menimbulkan kekhawatiran akan Bahaya AI Workslop yang dapat menyebabkan perusahaan mengalami penurunan pengetahuan atau knowledge decay akibat penggunaan AI yang berlebihan tanpa pengawasan. Perusahaan harus bijak dalam mengintegrasikan AI ke dalam operasional mereka.

Pembatasan token ini menjadi sinyal kuat bahwa perusahaan mulai sadar akan pentingnya efisiensi biaya dalam penggunaan AI. Alih-alih menggunakan AI untuk segala hal, perusahaan kini mulai memprioritaskan penggunaan AI hanya untuk tugas-tugas yang benar-benar memberikan nilai tambah. Langkah Accenture ini bisa menjadi preseden bagi perusahaan lain untuk melakukan hal serupa.