Bias, rasisme dan kebohongan: menghadapi konsekuensi yang tidak diinginkan dari AI |

Bias, rasisme dan kebohongan: menghadapi konsekuensi yang tidak diinginkan dari AI |


Frasa “kecerdasan buatan” dapat memunculkan gambaran tentang mesin yang mampu berpikir, dan bertindak, seperti halnya manusia, terlepas dari pengawasan apa pun dari manusia, daging dan darah. Versi film AI cenderung menampilkan mesin super cerdas yang mencoba menggulingkan umat manusia dan menaklukkan dunia.

Kenyataannya lebih membosankan, dan cenderung mendeskripsikan perangkat lunak yang dapat memecahkan masalah, menemukan pola dan, sampai batas tertentu, “belajar”. Ini sangat berguna ketika sejumlah besar data perlu disortir dan dipahami, dan AI sudah digunakan dalam sejumlah skenario, terutama di sektor swasta.

Contohnya termasuk chatbots yang dapat melakukan korespondensi online; situs belanja online yang mempelajari cara memprediksi apa yang mungkin ingin Anda beli; dan jurnalis AI yang menulis artikel olahraga dan bisnis (cerita ini, saya jamin, ditulis oleh manusia).

© ITU / Rowan Farrell

Robot berkemampuan 5G oleh China Telecom dipamerkan selama ITU Telecom World 2019.

Dan, sementara berita baru-baru ini dari Iran telah menghidupkan kembali ketakutan tentang penggunaan robot pembunuh (pihak berwenang Iran telah mengklaim bahwa “senapan mesin dengan AI” digunakan untuk membunuh ilmuwan nuklir paling senior di negara itu), cerita negatif terkait dengan AI, yang mana termasuk nilai ujian yang diturunkan secara tidak benar di Inggris, orang yang tidak bersalah dikirim ke penjara di AS, dan data pribadi yang dicuri di seluruh dunia, lebih cenderung berkaitan dengan penyalahgunaannya, dan kesalahan manusia kuno.

Menjelang peluncuran panduan PBB untuk memahami etika AI, berikut lima hal yang harus Anda ketahui tentang penggunaan AI, konsekuensinya, dan cara meningkatkannya.

1) Konsekuensi penyalahgunaan bisa sangat merusak



Unsplash / Jeswin Thomas

Banyak siswa tidak dapat mengikuti ujian pada tahun 2020, karena penutupan sekolah.

Pada bulan Januari, seorang pria Afrika-Amerika di negara bagian Michigan, AS, ditangkap karena kejahatan mengutil yang tidak dia ketahui. Dia ditahan setelah diborgol di luar rumahnya di depan keluarganya.

Ini diyakini sebagai penangkapan salah yang pertama dari jenisnya: petugas polisi yang terlibat telah mempercayai AI pengenalan wajah untuk menangkap pria mereka, tetapi alat tersebut belum mempelajari cara mengenali perbedaan antara wajah hitam karena gambar yang digunakan untuk melatihnya. sebagian besar berwajah putih.

Untungnya, dengan cepat menjadi jelas bahwa dia tidak terlihat seperti tersangka yang terlihat dalam foto yang diambil dari kamera keamanan toko, dan dia dibebaskan, meskipun dia menghabiskan beberapa jam di penjara.

Dan, pada bulan Juli, terjadi keributan di Inggris, ketika impian banyak siswa yang berharap untuk masuk ke universitas pilihan mereka pupus, ketika program komputer digunakan untuk menilai nilai mereka (ujian tradisional telah dibatalkan, karena Pandemi covid19).

Untuk mengetahui apa yang akan diperoleh siswa jika mereka mengikuti ujian, program mengambil nilai mereka saat ini, dan juga memperhitungkan rekam jejak sekolah mereka dari waktu ke waktu. Hal ini akhirnya menghukum siswa yang cerdas dari lingkungan minoritas dan berpenghasilan rendah, yang lebih cenderung pergi ke sekolah yang secara keseluruhan memiliki nilai rata-rata lebih rendah daripada sekolah yang diikuti oleh siswa yang lebih kaya.

Contoh-contoh ini menunjukkan bahwa, agar alat AI berfungsi dengan baik, data scientist terlatih perlu bekerja dengan data berkualitas tinggi. Sayangnya, banyak data yang digunakan untuk mengajarkan AI saat ini diambil dari konsumen di seluruh dunia, seringkali tanpa persetujuan eksplisit mereka: negara-negara miskin seringkali tidak memiliki kemampuan untuk memastikan bahwa data pribadi dilindungi, atau untuk melindungi masyarakat mereka dari serangan cyber yang merusak. dan misinformasi yang berkembang sejak pandemi COVID-19.

2) Kebencian, perpecahan, dan kebohongan baik untuk bisnis



Unsplash / Franki Chamaki

Kecerdasan buatan berguna untuk memproses dan menganalisis data dalam jumlah besar.

Banyak perusahaan media sosial mendapat kecaman dari para skeptis yang berpengetahuan karena menggunakan algoritme, didukung oleh AI, kepada pengguna target mikro, dan mengirimi mereka konten yang disesuaikan yang akan memperkuat prasangka mereka. Semakin banyak kandungannya, semakin besar kemungkinan untuk dikonsumsi dan dibagikan.

Alasan mengapa perusahaan ini dengan senang hati “mendorong” konten yang memecah belah secara sosial, mempolarisasi konten kepada pengguna mereka, adalah karena hal itu meningkatkan kemungkinan mereka akan bertahan lebih lama di platform, yang membuat pengiklan mereka senang, dan meningkatkan keuntungan mereka.

Hal ini telah meningkatkan popularitas ekstremis, postingan penuh kebencian, yang disebarkan oleh kelompok-kelompok yang biasanya hanya merupakan pakaian pinggiran yang kurang dikenal. Selama pandemi COVID-19, hal itu juga menyebabkan penyebaran informasi yang salah tentang virus, berpotensi menyebabkan lebih banyak orang terinfeksi, banyak ahli mengatakan.

3) Ketimpangan global tercermin secara online



UNICEF / UN0143514 / Karel Prinsloo

Seorang siswa belajar dengan bantuan komputer tablet yang disediakan oleh UNICEF di sebuah sekolah di Kamerun (file)

Ada bukti kuat yang menunjukkan bahwa AI memainkan peran dalam membuat dunia lebih tidak setara, dan menguntungkan sebagian kecil orang. Misalnya, lebih dari tiga perempat dari semua inovasi dan paten digital baru diproduksi oleh hanya 200 perusahaan. Dari 15 platform digital terbesar yang kami gunakan, 11 berasal dari AS, sedangkan sisanya adalah China.

Ini berarti bahwa alat AI sebagian besar dirancang oleh pengembang di Barat. Faktanya, para pengembang ini sebagian besar adalah orang kulit putih, yang juga bertanggung jawab atas sebagian besar penulis tentang topik AI. Kasus penangkapan yang salah di Michigan hanyalah salah satu contoh bahaya yang ditimbulkan oleh kurangnya keragaman dalam bidang yang sangat penting ini.

Ini juga berarti bahwa, pada tahun 2030, Amerika Utara dan China diharapkan mendapatkan bagian terbesar dari keuntungan ekonomi, yang diharapkan bernilai triliunan dolar, yang diperkirakan akan dihasilkan oleh AI.

4) Manfaat potensial sangat besar

Ini tidak berarti bahwa AI harus digunakan lebih sedikit: inovasi yang menggunakan teknologi sangat berguna bagi masyarakat, seperti yang telah kita lihat selama pandemi.

Pemerintah di seluruh dunia telah beralih ke solusi digital untuk masalah baru, dari aplikasi pelacakan kontak, hingga obat-obatan tele dan obat-obatan yang dikirim oleh drone, dan, untuk melacak penyebaran COVID-19 di seluruh dunia, AI telah digunakan untuk menjaring. melalui penyimpanan data yang sangat besar yang berasal dari interaksi kita di media sosial dan online.

Namun, manfaatnya jauh melampaui pandemi: AI dapat membantu memerangi krisis iklim, memperkuat model yang dapat membantu memulihkan ekosistem dan habitat, dan memperlambat hilangnya keanekaragaman hayati; dan menyelamatkan nyawa dengan membantu organisasi kemanusiaan untuk mengarahkan sumber daya mereka ke tempat yang paling membutuhkan dengan lebih baik.

Masalahnya adalah bahwa alat AI sedang dikembangkan begitu cepat sehingga baik perancang, pemegang saham perusahaan, atau pemerintah tidak punya waktu untuk mempertimbangkan potensi jebakan dari teknologi baru yang mempesona ini.

5) Kita perlu menyetujui regulasi AI internasional



Unsplash / David von Diemar

Perusahaan mobil seperti Tesla semakin banyak menggunakan AI untuk mengendalikan kendaraan.

Untuk alasan ini, badan pendidikan, sains dan budaya PBB, UNESCO, sedang berkonsultasi dengan berbagai kelompok, termasuk perwakilan dari masyarakat sipil, sektor swasta, dan masyarakat umum, untuk menetapkan standar AI internasional, dan memastikan bahwa teknologi memiliki dasar etika yang kuat, yang mencakup supremasi hukum, dan pemajuan hak asasi manusia.

Bidang penting yang perlu dipertimbangkan mencakup pentingnya membawa lebih banyak keragaman di bidang ilmu data untuk mengurangi bias, dan stereotip rasial dan gender; penggunaan AI yang tepat dalam sistem peradilan untuk membuatnya lebih adil serta lebih efisien; dan menemukan cara untuk memastikan bahwa manfaat teknologi tersebar di antara orang sebanyak mungkin.

http://54.248.59.145/ Situs Togel Online Terbaik di Indonesia.

Related Posts

Contact Us | About Us | Privacy Policy | Terms and Conditions | Disclaimer

do_action('fairy_gototop'); wp_footer(); ?>