Ketua Pegawai Eksekutif (CEO) Anthropic, Dario Amodei menggesa pembangunan kepintaran buatan (AI) perlu diperlahankan atau berisiko memberi ancaman kepada manusiawi.
Pandangan itu dibuat dalam satu hantaran panjang di X baru-baru ini. Amodei menyifatkan AI antara ciptaan terbaru manusia yang banyak membantu menambah baik kehidupan.
Pada masa sama, beliau melihat AI juga memiliki risiko yang boleh menjejaskan keselamatan manusia terutamanya jika kepantasan pembangunannya tidak dikawal.
“Jika dikendalikan dengan cermat, AI boleh saja menjadi yang terkini dalam rangkaian panjang keajaiban teknologi yang telah mengangkat martabat dan memuliakan manusiawi.
“Namun, seperti kebanyakan teknologi terdahulu, AI membawa risiko. Dan memandangkan ia merupakan teknologi yang hebat, risiko-risiko ini serius. Persaingan ke arah tahap yang lebih rendah, yang didorong oleh insentif komersial boleh menjadikan risiko ini lebih merbahaya,” katanya.
Atas sebab itu, beliau melihat mengawal kadar peningkatan keupayaan model AI sebagai kunci bagi memastikan isu keselamatan sentiasa menjadi keutamaan.
“Sepanjang beberapa bulan kebelakangan ini, saya semakin yakin bahawa usaha menangani risiko-risiko tersebut sepenuhnya memerlukan tahap kewaspadaan yang lebih tinggi. Ini bukan sekadar melabur dalam langkah pencegahan risiko, malah turut mengawal kadar peningkatan keupayaan agar langkah pencegahan itu sempat mengimbanginya.
“Kita mesti memperlahankan kadar peningkatan keupayaan model AI. Kemajuan akan tetap kelihatan pantas dan kita perlu memanfaatkan masa yang diperoleh itu dengan bijak,” tambahnya.
Selepas esei itu disiarkan di X, ramai pemain industri AI bersetuju dengan gesaan Amodei. Salah seorang daripadanya ialah CEO OpenAI, Sam Altman.
Susulan itu, Anthropic mengambil langkah awal dengan membenarkan pemerhati bebas berada dalam syarikat secara kekal untuk memantau dan menilai keselamatan model AI ketika fasa latihan.
Kebimbangan Amodei berhubung isu AI timbul susulan insiden penggodaman yang dilakukan sekumpulan ejen AI ciptaan OpenAI ke atas Hugging Face baru-baru ini.
