SEOUL, Korea Selatan (AP) — Perusahaan-perusahaan terkemuka dalam kecerdasan buatan berjanji pada awal KTT mini tentang AI untuk mengembangkan teknologi dengan aman, termasuk mematikan jika mereka tidak dapat mengendalikan risiko paling ekstrim.

Pemimpin dunia diharapkan untuk menetapkan perjanjian lebih lanjut tentang kecerdasan buatan saat mereka berkumpul secara virtual pada hari Selasa untuk membahas risiko potensial AI tetapi juga cara untuk mempromosikan manfaat dan inovasinya.

KTT AI Seoul adalah tindak lanjut yang rendah hati dari KTT AI Safety pada bulan November di Bletchley Park, Inggris, di mana negara-negara peserta setuju untuk bekerja sama untuk menahan risiko potensial "catastrophic" yang ditimbulkan oleh kemajuan cepat dalam AI.

Pertemuan dua hari ini -- diselenggarakan bersama oleh pemerintah Korea Selatan dan Inggris -- juga datang saat perusahaan teknologi besar seperti Meta, OpenAI dan Google merilis versi terbaru dari model AI mereka.

Mereka termasuk di antara 16 perusahaan AI yang melakukan komitmen sukarela untuk keamanan AI saat pembicaraan dimulai, menurut pengumuman pemerintah Inggris. Perusahaan-perusahaan tersebut, yang juga termasuk Amazon, Microsoft, Mistral AI dari Prancis, Zhipu.ai dari China, dan G42 dari Uni Emirat Arab, bersumpah untuk memastikan keamanan model AI paling canggih mereka dengan janji pemerintahan yang bertanggung jawab dan transparansi publik.

Janji tersebut termasuk menerbitkan kerangka kerja keamanan yang menetapkan bagaimana mereka akan mengukur risiko dari model-model ini. Dalam kasus ekstrim di mana risiko sangat parah dan "tidak dapat diterima," perusahaan AI harus menekan tombol mati dan menghentikan pengembangan atau implementasi model dan sistem mereka jika mereka tidak dapat memitigasi risiko tersebut.

Sejak pertemuan di Inggris tahun lalu, industri AI "semakin fokus pada kepedulian yang paling mendesak, termasuk mis- dan dis-informasi, keamanan data, bias, dan menjaga manusia di dalam lingkaran," kata Aiden Gomez CEO Cohere, salah satu perusahaan AI yang menandatangani pakta tersebut. "Sangat penting bagi kita untuk terus mempertimbangkan semua risiko yang mungkin, sambil memprioritaskan upaya kami pada yang paling mungkin menimbulkan masalah jika tidak diatasi dengan baik."

Pada malam Selasa, Presiden Korea Selatan Yoon Suk Yeol dan Perdana Menteri Inggris Rishi Sunak akan bertemu dengan pemimpin dunia lainnya, bos industri, dan kepala organisasi internasional untuk konferensi virtual. KTT online ini akan diikuti oleh pertemuan langsung menteri-digital, ahli, dan orang lain pada hari Rabu, menurut penyelenggara.

Sementara pertemuan di Inggris difokuskan pada masalah keamanan AI, agenda pertemuan minggu ini diperluas untuk termasuk "inovasi dan inklusivitas," kata Wang Yun-jong, direktur deputi keamanan nasional di Korea Selatan, kepada wartawan pada hari Senin.

Wang mengatakan peserta kemudian akan "membahas tidak hanya risiko yang ditimbulkan oleh AI tetapi juga aspek positifnya dan bagaimana itu dapat berkontribusi pada kemanusiaan secara seimbang." Kesepakatan AI akan mencakup hasil diskusi tentang keamanan, inovasi, dan inklusivitas, menurut Park Sang-wook, penasihat senior presiden untuk ilmu pengetahuan dan teknologi untuk Presiden Yoon.

Pemerintah di seluruh dunia telah berusaha menyusun regulasi untuk AI, meskipun teknologi itu membuat kemajuan pesat dan siap untuk mengubah banyak aspek kehidupan sehari-hari, dari pendidikan dan tempat kerja hingga hak cipta dan privasi. Ada kekhawatiran bahwa kemajuan dalam AI dapat mengambil pekerjaan, menipu orang, dan menyebarkan disinformasi.

Pertemuan minggu ini hanya salah satu dari sejumlah upaya untuk menyusun pagar pengaman AI. Perhimpunan Umum PBB telah menyetujui resolusi pertamanya tentang penggunaan aman sistem AI, sementara AS dan Cina baru-baru ini mengadakan pertemuan tingkat tinggi pertama mereka tentang AI dan AI Act Uni Eropa yang menjadi yang pertama di dunia dijadwalkan akan mulai berlaku tahun ini.

__

Chan turut berkontribusi dalam laporan ini dari London.