Tetap terinformasi dengan pembaruan gratis
Cukup mendaftar ke Kecerdasan buatan Myft Digest – dikirim langsung ke kotak masuk Anda.
Dua pelopor pembelajaran penguatan, teknik ilmiah yang telah menjadi dasar bagi booming kecerdasan buatan, telah memperingatkan terhadap penyebaran model AI yang tidak aman setelah memenangkan Turing Award tahun ini.
Andrew Barto, seorang profesor emeritus di University of Massachusetts, dan Richard Sutton, seorang profesor di University of Alberta dan mantan ilmuwan peneliti di Deepmind, telah memenangkan hadiah $ 1 juta dari Asosiasi untuk Komputasi Mesin untuk Mengembangkan Metode Peluncuran.
Barto dan Sutton mengembangkan pembelajaran penguatan pada 1980 -an setelah mereka terinspirasi oleh psikologi dan bagaimana orang belajar. Teknik pembelajaran mesin, yang menghargai sistem AI untuk berperilaku dengan cara yang diinginkan, telah membantu memperkuat keberhasilan beberapa grup AI top dunia, seperti Openai dan Google.
Para pemenang penghargaan, yang sering dijuluki Hadiah Nobel Komputasi, mengatakan mereka khawatir tentang perusahaan AI yang bergegas untuk meluncurkan produk sebelum mengujinya secara menyeluruh.
“Melepaskan perangkat lunak untuk jutaan orang tanpa perlindungan bukanlah praktik teknik yang baik,” kata Barto, menyamakannya dengan membangun jembatan dan mengujinya dengan meminta orang menggunakannya.
“Praktik teknik telah berevolusi untuk mencoba mengurangi konsekuensi negatif dari teknologi, dan saya tidak melihat bahwa sedang dipraktikkan oleh perusahaan yang sedang berkembang,” tambahnya.
Penghargaan tersebut, yang dinamai matematikawan Inggris Alan Turing, datang setelah terobosan AI juga diakui dalam kimia dan fisika Hadiah Nobel pada bulan Oktober. Ini menyoroti pentingnya alat komputasi dan ilmu data dalam memecahkan masalah ilmiah yang kompleks pada rentang waktu yang jauh lebih pendek.
“Alat (Barto dan Sutton) yang dikembangkan tetap menjadi pilar sentral dari booming AI dan telah memberikan kemajuan besar, menarik banyak peneliti muda, dan mendorong miliaran dolar dalam investasi. Dampak (Penguatan Pembelajaran Penguatan) akan berlanjut ke masa depan, ”kata Jeff Dean, wakil presiden senior di Google, yang mensponsori hadiah tersebut.
Google DeepMind menggunakan teknik ini untuk mengembangkan Alphago, sistem AI yang mengalahkan pemain manusia dalam permainan GO, sebuah tonggak utama dalam penelitian AI. Openai juga menggunakan jenis pembelajaran penguatan yang bergantung pada umpan balik manusia untuk mengontrol output ChatGPT.
Tetapi baik Barto dan Sutton memperingatkan terhadap laju pengembangan AI saat ini, di mana perusahaan berlomba untuk meluncurkan model yang kuat tetapi rentan untuk membuat kesalahan, meningkatkan jumlah pendanaan yang belum pernah terjadi sebelumnya dan menginvestasikan miliaran infrastruktur seperti pusat data untuk melatih dan menjalankan AI.
Kelompok -kelompok teknologi besar mengatakan pengeluaran AI dapat melebihi $ 320 miliar tahun ini, sementara Openai, yang meluncurkan ChatGPT pada tahun 2022, saat ini mengumpulkan $ 40 miliar dalam pendanaan baru dengan penilaian $ 260 miliar.
Barto mengkritik sektor AI karena termotivasi oleh insentif bisnis, alih -alih melanjutkan penelitian AI. “Gagasan memiliki pusat data yang sangat besar dan kemudian membebankan jumlah tertentu untuk menggunakan perangkat lunak adalah memotivasi hal -hal, dan itu bukan motif yang akan saya langgar,” tambahnya.
Openai berpendapat perlu membuka investasi lebih lanjut melalui struktur perusahaan yang lebih tradisional untuk mencapai ‘misi’ pendirian perusahaan untuk memastikan bahwa intelijen umum buatan (AGI) – sebuah skenario di mana sistem komputer mencapai tingkat kecerdasan yang serupa atau unggul kepada manusia – menguntungkan kemanusiaan.
Tetapi Sutton menolak narasi perusahaan teknologi di sekitar AGI sebagai “hype”. “Agi adalah istilah yang aneh karena selalu ada AI dan orang -orang yang mencoba memahami kecerdasan.” Dia menambahkan bahwa “sistem yang lebih cerdas dari orang -orang” pada akhirnya akan terjadi melalui pemahaman yang lebih baik tentang pikiran manusia.
Barto dan Sutton juga mengkritik upaya Presiden AS Donald Trump untuk memangkas pengeluaran federal untuk penelitian ilmiah dan memberhentikan staf di lembaga sains AS.
Ini bisa memiliki konsekuensi yang menghancurkan bagi dominasi AS dalam sains, kata Barto, yang menyebutnya “salah dan tragedi tidak hanya untuk negara ini tetapi juga bagi dunia”.
Dia menambahkan bahwa peluang untuk melakukan jenis penelitian yang memungkinkan pekerjaan mereka dalam pembelajaran penguatan akan “menghilang” tanpa kebebasan untuk mengeksplorasi konsep abstrak dan tidak terbukti.
Terlepas dari kekhawatiran mereka, kedua ilmuwan optimis tentang potensi pembelajaran penguatan, dikombinasikan dengan AI, untuk membawa hasil positif bagi dunia.
“Kami memiliki potensi untuk menjadi kurang serakah dan egois dan lebih sadar akan apa yang terjadi pada orang lain. . . Ada banyak hal yang salah di dunia, tetapi terlalu banyak kecerdasan bukanlah salah satunya, ”kata Sutton.
