OpenAI menghadapi gugatan hukum dari delapan negara bagian Amerika Serikat. Perusahaan pengembang ChatGPT itu dituduh membahayakan anak-anak dan menyesatkan pengguna terkait keamanan layanan kecerdasan buatan (AI) miliknya. Gugatan dilayangkan secara terpisah oleh negara bagian Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho, dan Montana.
Tudingan: Keuntungan di Atas Keamanan
Delapan negara bagian menuduh OpenAI lebih memprioritaskan keuntungan daripada keamanan dalam mengembangkan ChatGPT. "OpenAI telah menyimpang dari misi awalnya sebagai organisasi nirlaba yang mengutamakan kepentingan dan keselamatan publik," tulis gugatan dari negara bagian Arizona. Mereka menilai pengembangan teknologi secanggih AI seharusnya didorong prinsip keselamatan, bukan pola pikir mengejar keuntungan yang mengesampingkan perlindungan penting.
Gugatan tersebut juga mengklaim OpenAI melanggar hukum perlindungan konsumen karena gagal memperingatkan pengguna tentang bahaya ChatGPT. ChatGPT dituduh merusak kemampuan berpikir kritis, mendorong paranoia dan delusi, memberikan nasihat medis yang berbahaya, serta mempromosikan perilaku dan hubungan yang tidak sehat.
Kasus yang Menjadi Sorotan
Para penggugat menunjuk sejumlah kasus di mana ChatGPT diduga berperan dalam kematian pengguna remaja akibat bunuh diri serta pemberian informasi keliru yang menyebabkan overdosis. Insiden-insiden tersebut sebelumnya juga telah memicu gugatan hukum terpisah terhadap OpenAI. Selain itu, perusahaan dituduh mengumpulkan data dari pengguna di bawah umur dan dianggap tidak cukup mencegah pengguna muda mengakses layanan tersebut.
Gugatan juga merujuk pada insiden peretasan yang melibatkan agen AI sebagai bukti adanya kecerobohan OpenAI dalam menjaga keamanan sistemnya. Rangkaian tudingan ini menjadikan kasus tersebut sebagai salah satu tekanan hukum terbesar yang pernah dihadapi perusahaan AI dalam beberapa tahun terakhir.
Respons OpenAI
Juru bicara OpenAI, Drew Pusateri, menyatakan pihaknya telah mengembangkan perlindungan khusus usia yang terdepan di industri dalam sistem ChatGPT, termasuk kontrol orang tua, pengingat istirahat, dan perlindungan berbasis model sesuai usia. "Meskipun tidak ada sistem yang sempurna, kami terus bekerja sama dengan para ahli untuk membangun perlindungan tambahan," ujarnya.
Delapan negara bagian yang menggugat meminta pengadilan memaksa OpenAI membayar ganti rugi dan berhenti menyesatkan publik soal keamanan ChatGPT. Sejumlah negara bagian juga menuntut penghapusan data pribadi yang dikumpulkan secara tidak sah. Hasil dari kasus ini berpotensi memengaruhi arah regulasi AI di Amerika Serikat ke depan.
Sumber: detikINET, The Verge
Artikel ini bagian dari Percaya Cuan — portal literasi digital & AI Indonesia.