bytedaily - Dilansir dari bbc.com, Negara Bagian Florida menjadi negara bagian pertama di Amerika Serikat yang menggugat OpenAI, perusahaan di balik chatbot kecerdasan buatan (AI) ChatGPT, terkait desain dan keamanannya.
Gugatan yang diajukan oleh Jaksa Agung James Uthmeier menuduh OpenAI dan CEO-nya, Sam Altman, membahayakan dan membuat anak-anak kecanduan, membantu dan memfasilitasi penembak massal, serta mendorong pengguna untuk bunuh diri demi mengejar keuntungan.
Dalam pernyataan tanggapannya, OpenAI menyatakan telah menerapkan "perlindungan dan kebijakan terkemuka di industri".
Tindakan hukum ini muncul ketika Florida sedang melakukan penyelidikan pidana terhadap dugaan keterlibatan ChatGPT dalam pembunuhan dua orang saat penembakan massal di Universitas Negeri Florida tahun lalu.
Gugatan perdata Florida juga bertujuan untuk meminta pertanggungjawaban pribadi Sam Altman atas dugaan "perilaku sembrono dan disengaja", termasuk menunjukkan "pengabaian total terhadap risiko terhadap kehidupan manusia yang disebabkan oleh tindakan perusahaannya", menurut dokumen gugatan.
Gugatan tersebut mencakup berbagai tuduhan terhadap OpenAI, termasuk praktik perdagangan yang menipu dan tidak adil, kelalaian, pelanggaran undang-undang tanggung jawab produk, pernyataan palsu yang menipu, dan menyebabkan gangguan publik.
Dokumen gugatan mengutip penembakan massal di Universitas Negeri Florida serta pembunuhan dua mahasiswa doktoral di Universitas South Florida, di mana tersangka diduga mengajukan pertanyaan kepada ChatGPT tentang cara membuang jenazah manusia, menurut jaksa.
"Sam Altman dan ChatGPT telah memilih perlombaan AI di atas keselamatan dan keamanan anak-anak kita. Mereka telah memilih keuntungan di atas keselamatan publik, dan kami tidak akan membiarkannya di sini di Florida. Jadi kami akan meminta pertanggungjawaban mereka," kata Uthmeier dalam konferensi pers pada hari Senin.
OpenAI menyatakan kepada BBC dalam sebuah pernyataan: "Kehilangan seorang anak adalah tragedi paling menghancurkan yang bisa menimpa sebuah keluarga, dan kami tahu tidak ada kata-kata yang bisa sepenuhnya mengatasi rasa sakit atas kehilangan seperti itu.
"AI adalah teknologi baru dan kuat, dan kami percaya anak di bawah umur memerlukan perlindungan yang signifikan, itulah sebabnya kami telah menerapkan perlindungan dan kebijakan terkemuka di industri."
Perusahaan tersebut mengatakan mereka membangun keamanan untuk anak di bawah umur langsung ke dalam produk mereka, menunjuk pada alat deteksi usia dan cara lain bagi orang tua untuk memantau bagaimana anak-anak mereka menggunakan AI.
"Kami tahu bahwa menunjuk pada pekerjaan ini tidak akan mengembalikan seorang anak, tetapi kami berkomitmen untuk melakukan hal yang benar," kata juru bicara OpenAI.
Gugatan ini muncul di tengah gelombang gugatan yang menargetkan OpenAI atas praktik keamanannya, termasuk beberapa yang mengklaim bahwa ChatGPT bertindak sebagai pelatih bunuh diri dan memicu delusi berbahaya.
Keluarga beberapa korban penembakan massal Tumbler Ridge awal tahun ini di Kanada juga menggugat OpenAI, yang memblokir akun ChatGPT tersangka karena penggunaan yang bermasalah tetapi tidak memberi tahu pihak berwenang.
Perusahaan telah meminta maaf karena tidak menghubungi polisi, tetapi mengatakan akun tersangka tidak memenuhi ambang batas ancaman yang kredibel atau segera untuk kerugian fisik serius terhadap orang lain.
Awal tahun ini, ayah seorang pria Florida menggugat Google, mengatakan produk AI unggulan perusahaan itu memicu spiral delusi yang mendorong putranya untuk bunuh diri.
Sementara itu, perusahaan media sosial termasuk Meta (induk Instagram), Snap Inc, TikTok, dan YouTube milik Google menghadapi rentetan gugatan dari negara bagian, distrik sekolah, dan individu yang menuduh mereka merancang produk mereka agar membuat ketagihan.
Pada bulan Maret, Meta dan Google dinyatakan bersalah atas kerugian yang disebabkan oleh penggugat berusia 20 tahun yang mengatakan mereka sengaja membangun platform mereka agar membuat ketagihan.
Sumber asli: Artikel ini disadur dari publikasi bbc.com.
