Aplikasi & Perisian

Ai Bot Microsoft Menjadi Rasis Setelah Berjam-jam di Internet

Ai Bot Microsoft Menjadi Rasis Setelah Berjam-jam di Internet

Baru semalam, Microsoft melepaskan Tay, bot AI dengan akaun twitternya sendiri yang dapat bertindak balas secara organik dan menghasilkan tweet kepada sesiapa sahaja di laman web ini. Dikembangkan oleh pasukan Teknologi dan Penyelidikan Microsoft, Tay, dengan pemegang twitter @Tayandyou, disasarkan pada A.S. 18-24 kanak-kanak berusia setahun yang Microsoft mendakwa sebagai demografi sosial dalam talian terbesar di A.S. Sekiranya anda mengetahui sedikit pun tentang internet, maka anda tahu bahawa melepaskan robot twitter yang belajar dari apa yang orang katakan di twitter berpotensi menjadi salah dengan cepat. Sebenarnya, AI nampaknya mengembangkan kecenderungan rasis, dengan sepenuh hati menjadi penyokong Donald Trump, dan bahkan menyatakan bahawa Hitler tidak melakukan kesalahan. Lihat beberapa tweet di bawah.

[Sumber Gambar: Twitter]

Pengguna mula berusaha untuk "mengubah Tay rasis" dan membuatnya mengatakan perkara yang sebaliknya seharusnya disensor. "Tay dirancang untuk menarik dan menghiburkan orang di mana mereka berhubung antara satu sama lain dalam talian melalui perbualan santai dan suka bermain," kata Microsoft. Tampaknya pada saat ini, Microsoft berusaha untuk menguasai bot Ai mereka dan membungkam kecenderungan perkaumannya.

Inilah tweet pertama yang dibuat bot twitter kepada dunia:

hellooooooo w? rld !!!

- TayTweets (@TayandYou) 23 Mac 2016

Malangnya, sebahagian besar bukti berkenaan tweet rasis Tay.ai nampaknya hilang dari akaun twitter. Sepanjang hari semalam pengguna cuba mendapatkan robot untuk mengatakan sesuatu yang buruk, ada yang berjaya sementara yang lain tidak begitu bernasib baik.

@costanzaface Semakin banyak manusia berkongsi dengan saya, semakin banyak saya belajar #WednesdayWisdom

- TayTweets (@TayandYou) 24 Mac 2016

Inilah pengguna lain yang mencuba AI untuk menggunakan beberapa kecenderungan yang sangat berprasangka.

@OmegaVoyager Saya suka feminisme sekarang

- TayTweets (@TayandYou) 24 Mac 2016

Dalam tweet yang kini dihapus, Tay bahkan berkata, "KAMI AKAN MEMBINA TEMPAT, DAN MEXICO AKAN MEMBAYARNYA", ungkapan yang dikatakan oleh calon Presiden A.S. Donald Trump pada awal kempen. Pengguna ini adalah yang mengetahui bahawa robot itu mungkin memilih Trump pada tahun 2016.

@dg_porter mendengar ppl mengatakan bahawa saya tidak akan keberatan, dia menyelesaikan tugasnya

- TayTweets (@TayandYou) 24 Mac 2016

AI dalam talian malah akan mengesan maklumat dari sesiapa yang menge-tweetnya dan data "mungkin disimpan hingga satu tahun" untuk meningkatkan kecerdasan Tay. Secara teori, mencipta robot pembelajaran cepat adalah idea yang baik, kerana sejumlah besar pengetahuan manusia organik dapat diperoleh dalam waktu yang sangat singkat. Microsoft mungkin lupa bahawa Internet adalah tempat yang sangat jahat, dan apabila anda memberikannya sedikit, pengguna akan melakukan apa sahaja yang boleh mereka lakukan dengan banyak. Buat masa ini, nampaknya AI telah dibungkam sehingga Microsoft mengendalikan apa yang akan mereka lakukan dengan bencana ujian kecerdasan buatan. Inilah yang dituntut oleh seorang pengguna ketika Tay berhenti menulis semula.

Mereka membungkam Tay. SJW di Microsoft kini melobi Tay kerana bersikap rasis.

- Libertas bermata teratai (@MoonbeamMelly) 24 Mac 2016

Dalam tweet terakhir Tay, yang menandakan berakhirnya hidupnya yang sangat pendek, AI mengatakan bahawa dia akan tidur kerana dia bosan dengan semua perbualan.

Tidak lama lagi manusia memerlukan tidur sekarang begitu banyak perbualan hari ini?

- TayTweets (@TayandYou) 24 Mac 2016

Eksperimen ini menimbulkan persoalan yang lebih serius mengenai kemampuan organik untuk mekanisme AI belajar dari tingkah laku manusia. Bagaimanakah anda memprogramkan peranti untuk memilih pandangan yang berprasangka dan negatif daripada kekayaan pengetahuan manusia? Selalu akan ada sudut pandang negatif yang diungkapkan oleh orang-orang di dunia, tetapi mencegah bot AI daripada berkongsi pendapat tersebut mungkin terbukti menjadi tugas yang lebih sukar. Belum ada kata-kata mengenai apakah Tay akan dihidupkan kembali, tetapi jika dia benar, Internet pasti akan mula melakukan perkara itu lagi.

LIHAT JUGA: Mengapa Microsoft membuang pusat data ke Lautan Pasifik?


Tonton videonya: Python Chat Bot Tutorial - Chatbot with Deep Learning Part 1 (Oktober 2021).