Dr Geoffrey Hinton, yang bersama dua mahasiswanya di University of Toronto membangun jaringan saraf pada tahun 2012, keluar dari Google, seperti yang pertama kali dilaporkan oleh New York Times.
Hinton, 75, mengatakan dia berhenti untuk berbicara secara bebas tentang bahaya AI, dan sebagian menyesali kontribusinya di lapangan. Dia dibawa oleh Google satu dekade lalu untuk membantu mengembangkan teknologi AI perusahaan, dan pendekatan yang dia rintis membuka jalan bagi sistem saat ini seperti ChatGPT.
Pelopor jaringan saraf ini mengatakan bahaya chatbots ‘cukup menakutkan’ dan memperingatkan mereka dapat dieksploitasi oleh ‘aktor jahat’
Pria yang sering disebut-sebut sebagai bapak baptis AI telah keluar dari Google, mengutip kekhawatiran atas banjir informasi yang salah, kemungkinan AI untuk menjungkirbalikkan pasar kerja, dan “risiko eksistensial” yang ditimbulkan oleh penciptaan kecerdasan digital sejati.
AI memungkinkan pembacaan pikiran non-invasif dengan mengubah pikiran menjadi teks. Dia mengatakan kepada New York Times bahwa hingga tahun lalu dia yakin Google telah menjadi “pelayan yang tepat” dari teknologi tersebut, tetapi itu berubah setelah Microsoft mulai memasukkan chatbot ke dalam mesin pencari Bing-nya, dan perusahaan mulai khawatir tentang risikonya. bisnis pencarian.
Beberapa bahaya AI chatbots “cukup menakutkan”, katanya kepada BBC, memperingatkan mereka bisa menjadi lebih cerdas daripada manusia dan dapat dieksploitasi oleh “aktor jahat”. “Ini dapat menghasilkan banyak teks secara otomatis sehingga Anda bisa mendapatkan banyak robot spam yang sangat efektif. Ini akan memungkinkan para pemimpin otoriter untuk memanipulasi pemilih mereka, hal-hal seperti itu.”
Namun, dia menambahkan, dia juga prihatin tentang “risiko eksistensial dari apa yang terjadi ketika hal-hal ini menjadi lebih cerdas dari kita.
“Saya sampai pada kesimpulan bahwa jenis kecerdasan yang kita kembangkan sangat berbeda dengan kecerdasan yang kita miliki,” katanya. “Jadi seolah-olah Anda memiliki 10.000 orang dan setiap kali satu orang mempelajari sesuatu, semua orang secara otomatis mengetahuinya. Dan begitulah chatbots ini dapat mengetahui lebih banyak daripada satu orang.”
Dia tidak sendirian di eselon atas penelitian AI karena takut bahwa teknologi tersebut dapat menimbulkan bahaya serius bagi umat manusia. Bulan lalu, Elon Musk mengatakan dia berselisih dengan salah satu pendiri Google, Larry Page, karena Page “tidak menganggap serius keamanan AI”. Musk mengatakan kepada Fox News bahwa Page menginginkan “kecerdasan super digital, pada dasarnya dewa digital, jika Anda mau, secepat mungkin”.
Valérie Pisano, kepala eksekutif Mila – Institut Kecerdasan Buatan Quebec – mengatakan bahwa pendekatan sembrono terhadap keselamatan dalam sistem AI tidak akan ditoleransi di bidang lain mana pun. “Teknologinya diletakkan di sana, dan saat sistem berinteraksi dengan umat manusia, pengembangnya menunggu untuk melihat apa yang terjadi dan membuat penyesuaian berdasarkan itu. Kami tidak akan pernah, secara kolektif, menerima pola pikir seperti ini di bidang industri lainnya. Ada sesuatu tentang teknologi dan media sosial di mana kami seperti: ‘Ya, tentu, kami akan mengetahuinya nanti,’” katanya.
Kekhawatiran Hinton dalam jangka pendek adalah sesuatu yang telah menjadi kenyataan – orang tidak akan dapat membedakan apa yang benar lagi dengan foto, video, dan teks yang dihasilkan AI yang membanjiri internet.
Peningkatan baru-baru ini ke generator gambar seperti Midjourney berarti orang sekarang dapat menghasilkan gambar foto-realistis – salah satu gambar Paus Francis dalam mantel puffer Balenciaga menjadi viral di bulan Maret.
Hinton juga khawatir bahwa AI pada akhirnya akan menggantikan pekerjaan seperti paralegal, asisten pribadi, dan “pekerjaan yang membosankan” lainnya, dan berpotensi lebih banyak lagi di masa mendatang.
Kepala ilmuwan Google, Jeff Dean, mengatakan dalam sebuah pernyataan bahwa Google menghargai kontribusi Hinton kepada perusahaan selama dekade terakhir.
“Saya sangat menikmati banyak percakapan kami selama bertahun-tahun. Aku akan merindukannya, dan aku berharap dia baik-baik saja!
“Sebagai salah satu perusahaan pertama yang menerbitkan AI Principles, kami tetap berkomitmen pada pendekatan AI yang bertanggung jawab. Kami terus belajar untuk memahami risiko yang muncul sambil juga berinovasi dengan berani.”Toby Walsh, kepala ilmuwan di Institut AI Universitas New South Wales, mengatakan orang harus mempertanyakan media online apa pun yang mereka lihat sekarang.
“Terkait dengan data digital apa pun yang Anda lihat – audio atau video – Anda harus menerima gagasan bahwa seseorang telah memalsukan data tersebut.”
https://youtube.com/watch?v=ZDP7Y0QbbtU&pp=ygUSZGphZGphIHNhcmRqYW5hIGFp
Telematika Pembebas 