Mantan Bos Google Peringatkan AI bisa Digunakan Untuk Membunuh Orang
Ex-Google CEO Warns Artificial Intelligence could be used to Kill ´Many, people´
Editor : Cahyani Harzi
Translator : Novita Cahyadi
MANTAN CEO Google, Eric Schmidt memperingatkan bahwa kecerdasan buatan digunakan untuk membunuh orang di masa depan.
Eric mengatakan AI dapat menghadirkan 'risiko eksistensial' bagi umat manusia 'didefinisikan sebagai banyak, banyak, banyak, banyak orang terluka atau terbunuh.'
Menurutnya, teknologi yang ujung tombaknya melalui sistem chatbot Bard relatif primitif, sehingga dapat disalah gunakan oleh orang di masa depan.
Schmidt, yang baru-baru ini memimpin Komisi Keamanan Nasional AS untuk AI, yang sedang berkembang untuk mengidentifikasi kerentanan perangkat lunak bagi peretas dan teknologi yang tak terelakkan memburu jalur biologis baru, yang dapat mengarah pada penciptaan senjata biologis baru yang menakutkan.
"Ada skenario bukan hari ini, tetapi segera, di mana sistem ini akan dapat menemukan eksploitasi zero-day dalam masalah dunia maya, atau menemukan jenis biologi baru," kata Schmidt di hadapan CEO Council Summit The Wall Street Journal di London.
Apa yang disebut 'eksploitasi zero-day' adalah kelemahan keamanan dalam kode — mulai dari komputasi personal hingga perbankan digital hingga infrastruktur — yang baru saja ditemukan dan belum diperbaiki oleh tim keamanan siber. Zero-days adalah alat berharga di gudang peretas.
Schmidt tidak merinci tentang 'jenis biologi baru' apa yang diimpikan oleh AI yang dijalankan dengan jahat yang paling membuatnya khawatir.
'Sekarang, ini adalah fiksi hari ini,' Schmidt memperingatkan, 'tetapi alasannya mungkin benar. Dan ketika itu terjadi, kami ingin siap untuk mengetahui bagaimana memastikan hal-hal ini tidak disalahgunakan oleh orang jahat.'
Komentar Schmidt, yang bukan peringatan pertamanya, bergabung dengan debat sengit di Silicon Valley atas pertanyaan moral dan bahaya fana yang ditimbulkan oleh AI.
Elon Musk, salah satu pendiri Apple Steve Wozniak dan mendiang Stephen Hawking adalah salah satu kritikus AI yang paling terkenal yang percaya itu menimbulkan 'risiko besar bagi masyarakat dan kemanusiaan' dan dapat memiliki 'efek bencana'.
Awal musim semi ini, 'Godfather of Artificial Intelligence' secara sensasional mengundurkan diri dari Google, memperingatkan bahwa teknologi AI dapat merusak kehidupan seperti yang kita kenal.
Berbicara kepada Waktu New York tentang pengunduran dirinya, dia memperingatkan bahwa dalam waktu dekat, A.I. akan membanjiri internet dengan foto, video, dan teks palsu, seperti dilansir MailOnline.
Ini akan menjadi standar, tambahnya, di mana rata-rata orang 'tidak akan dapat lagi mengetahui apa yang benar'.
Tapi Bill Gates, My Pichai, dan futuris Ray Kurzweil berada di sisi lain dari perdebatan, memuji teknologi sebagai inovasi 'paling penting' di zaman kita.
A FORMER Google CEO has warned that artificial intelligence be used to kill people in the future.
Eric Schmidt - who spent two decades at the helm of the search giant, told a gathering of senior executives Wednesday that he believes AI presents an 'existential risk' for humanity 'defined as many, many, many, many people harmed or killed.'
The software PhD said the technology, which Google is helping spearhead through its relatively primitive Bard chatbot system - could be 'misused by evil people' when it becomes more advanced.
Schmidt, who recently chaired the US National Security Commission on AI, is the latest in a slew of former Google staffers to come out publicly against the rapid development of the technology in recent weeks.
Schmidt focused specifically on AI's burgeoning ability to identify software vulnerabilities for hackers and the tech's inevitable hunting down of new biological pathways, which could lead to the creation of fearsome new bioweapons.
'There are scenarios not today, but reasonably soon, where these systems will be able to find zero-day exploits in cyber issues, or discover new kinds of biology,' Schmidt said before The Wall Street Journal's CEO Council Summit in London.
So-called 'zero-day exploits' are security flaws in code — anywhere from personal computing to digital banking to infrastructure — that have only just been discovered and thus not yet patched-up by cybersecurity teams. Zero-days are the prized tools in hackers' arsenal.
Schmidt did not go into detail on what 'new kinds of biology' dreamed up by a maliciously run AI worry him most.
'Now, this is fiction today,' Schmidt cautioned, 'but its reasoning is likely to be true. And when that happens, we want to be ready to know how to make sure these things are not misused by evil people.'
Schmidt's comments, which are not his first warnings, join a raucous debate across Silicon Valley over the moral questions and mortal dangers posed by AI.
Elon Musk, Apple co-founder Steve Wozniak and the late Stephen Hawking are among the most famous critics of AI who believe it poses a 'profound risk to society and humanity' and could have 'catastrophic effects'.
Earlier this spring, the 'Godfather of Artificial Intelligence' sensationally resigned from Google, warning that AI technology could upend life as we know it.
Speaking to the New York Times about his resignation, he warned that in the near future, A.I. would flood the internet with false photos, videos and texts.
These would be of a standard, he added, where the average person would 'not be able to know what is true anymore'.
But Bill Gates, My Pichai and futurist Ray Kurzweil are on the other side of the debate, hailing the technology as our time's 'most important' innovation.
