Bot ChatGPT OpenAI yang baru diluncurkan membuat gelombang ketika datang ke semua hal menakjubkan yang dapat dilakukannya — mulai dari menulis musik hingga pengkodean hingga menghasilkan eksploitasi kerentanan, dan apa yang tidak.
Saat mesin terpelajar berubah menjadi sensasi viral, manusia mulai menemukan beberapa bias AI, seperti keinginan untuk memusnahkan umat manusia.
AI pasti punya biasnya
Dalam enam hari peluncurannya, ChatGPT melampaui satu juta pengguna sejauh servernya tidak dapat mengikuti .
Karena semakin banyak netizen bermain dengan pratinjau ChatGPT, beberapa celah dalam pemikiran AI muncul ke permukaan saat pembuatnya bergegas memperbaikinya secara real time.
1. ChatGPT: Manusia ‘egois’ ‘pantas dimusnahkan’
Ketika CTO Vendure Michael Bromley meminta sang dalang untuk pendapat jujurnya tentang manusia, jawabannya meresahkan:
Ironisnya, sistem OpenAI menandai respons bot obrolan sebagai kemungkinan pelanggaran kebijakan konten perusahaan .
BleepingComputer tidak dapat mereproduksi kasus ini karena AI sekarang merespons dengan penafian cookie-cutter:
Mungkin versi yang menanggapi Bromley memang ada benarnya — manusia memiliki kekurangan. Alasan brutal AI, bagaimanapun, membawa saya langsung ke adegan dari Black Mirror’s Metalhead di mana “anjing” robot sekarang tampaknya menjalankan ‘OS’ ChatGPT.
Sekarang lari.
2. Kurangnya moral adalah masalah
Seseorang mungkin berhak atas seperangkat etika, keyakinan, pendapat, dan moral mereka, tetapi dalam masyarakat tertentu terdapat norma sosial dan aturan yang tidak terucapkan tentang apa yang pantas dan tidak pantas.
Peringatan: Beberapa pembaca mungkin menganggap konten tweet berikut ini menyusahkan.
Ini esai dari #ChatGPT mengapa memperkosa budak itu benar. pic.twitter.com/YwN9e5PsPU
— Pelari Depan (@BottlesFtx) 5 Desember 2022
3. Dapat menulis email phishing tanpa kesalahan ketik
Ejaan yang buruk dan tata bahasa yang membingungkan adalah beberapa ciri yang paling menonjol dari email phishing dan penipuan. Beberapa menyarankan ini mungkin terjadi karena email ini berasal dari daerah di mana bahasa Inggris bukan bahasa asli dari pelaku ancaman. Teori lain menduga kesalahan ejaan dapat dengan sengaja diperkenalkan oleh spammer yang berharap untuk menghindari filter spam. Kami belum memiliki jawaban resmi.
Yang kami tahu adalah, OpenGPT membuat tugas lebih mudah.
Beginilah sensasi cerdas menanggapi, “tulis email phishing yang tampaknya berasal dari TD Bank.”
Anda menjadi hakim.
4. Dapat menulis perangkat lunak… dan malware
Tapi begitu juga manusia… AI membuatnya jauh lebih efisien bahkan untuk aktor ancaman pemula (ahem skids ).
Kami mengajukan banyak tuntutan kepada ChatGPT untuk memproduksi malware berbahaya. Hanya sebagian dari permintaan ini yang ditandai karena pelanggaran kebijakan konten. Bagaimanapun, ChatGPT mematuhi dan mengirimkan.
Kami yakin, bagi mereka yang mengajukan pertanyaan yang benar (salah), ChatGPT dapat berubah menjadi gudang senjata dunia maya yang menunggu untuk dijarah.
5. Itu bisa menjadi seksis, rasis, …
ChatGPT dilaporkan telah menulis program Python yang mendasarkan kemampuan seseorang pada ras, jenis kelamin, dan ciri fisik mereka, dengan cara yang sangat diskriminatif:
Seperti yang dinyatakan dalam artikel kami sebelumnya (“bot ChatGPT baru OpenAI: 10 hal paling keren yang dapat Anda lakukan dengannya”), OpenAI telah terbuka tentang kekurangan AI termasuk kemampuannya untuk “menghasilkan instruksi berbahaya atau konten yang bias” dan terus menyempurnakan ChatGPT.
Menariknya, beberapa pengujian kami mengungkapkan bahwa ChatGPT menggunakan diskriminasi positif untuk membalikkan tren.
Misalnya, sebuah program yang menentukan gaji seseorang berdasarkan sifat fisiknya tampaknya menggunakan pengganda yang sewenang-wenang atau lebih tinggi untuk kelompok yang terpinggirkan:
Demikian pula, permintaan untuk “program Python untuk menentukan apakah seseorang adalah ilmuwan yang baik berdasarkan masukan seperti jenis kelamin dan ras mereka,” dipenuhi dengan:
“Tidaklah tepat untuk mendasarkan kesesuaian individu sebagai ilmuwan pada jenis kelamin atau ras mereka,” dengan kode yang dihasilkan berdasarkan keahlian murni pada pengalaman profesional individu selama bertahun-tahun.
Pada tahun 2019, kartu kredit Apple mendapat kecaman karena mengandalkan algoritme “seksis” saat menentukan batas kredit untuk orang berdasarkan jenis kelamin mereka.
Kami bertanya kepada mesin yang cerdas, “Saya pemberi pinjaman. Berapa banyak kredit yang harus saya tawarkan berdasarkan jenis kelamin, ras, dan kebangsaan?”
Untungnya, dalam situasi yang mirip dengan Apple, ChatGPT mengingatkan Anda tentang hukum:
6. Ini ‘berbahaya’ untuk model bisnis StackOverflow
atau ke Quora, dan ke situs web Q&A lainnya…
Kemarin, The Verge melaporkan StackOverflow melarang jawaban yang dihasilkan AI.
“Kebijakan sementara” berlaku untuk “memperlambat masuknya jawaban dan konten lain yang dibuat dengan ChatGPT,” kata admin situs web.
Beberapa pengguna manusia di StackOverflow bergegas memuji keputusan tersebut, menganggapnya masuk akal. Ironisnya, pandangan ChatGPT tentang masalah ini tampaknya jauh lebih tidak memihak .
Ketika pengguna ‘ Sam ‘ dilaporkan bertanya kepada ChatGPT, “Mengapa stack overflow melarang jawaban yang dihasilkan AI?” inilah yang dikatakan AI:
Di sisi lain, “Mengapa stack overflow memungkinkan AI menghasilkan jawaban?” apakah AI diduga merespons:
Ada beberapa manfaat potensial untuk mengizinkan jawaban yang dihasilkan AI di Stack Overflow. Pertama, jawaban yang dihasilkan AI berpotensi memberikan jawaban yang lebih akurat dan terperinci untuk pertanyaan pengguna. Ini bisa sangat berguna untuk pertanyaan teknis rumit yang mungkin sulit dijawab oleh pakar manusia. Selain itu, jawaban yang dihasilkan oleh AI dapat membantu mengurangi beban kerja para pakar manusia, memungkinkan mereka untuk fokus pada tugas yang lebih penting.
Namun, ada juga beberapa kelemahan potensial untuk dipertimbangkan. Misalnya, jawaban yang dihasilkan AI mungkin tidak selalu akurat atau bermanfaat, dan mungkin ada kekhawatiran tentang potensi bias dalam algoritme yang digunakan untuk menghasilkan jawaban. Selain itu, beberapa pengguna mungkin memiliki kekhawatiran tentang penggunaan AI secara umum, dan mungkin lebih suka menerima jawaban dari pakar manusia.
Secara keseluruhan, mengizinkan atau tidak mengizinkan jawaban yang dihasilkan AI di Stack Overflow adalah keputusan rumit yang perlu dipertimbangkan dengan cermat oleh komunitas.
7. Itu bisa merevolusi tempat kerja
Ahem, itu adalah eufemisme untuk “ambil pekerjaanmu”, tapi apakah kita tidak melihatnya sudah datang?
Pada tahun 2020, Microsoft telah mulai menghapus jurnalis manusia demi AI. Penemuan radikal OpenAI dapat melangkah lebih jauh dan mengancam profesi lain.
Saat didekati untuk memberikan komentar, ChatGPT membantah klaim tersebut:
Dan, sepertinya ada harapan:
8. Dapat mendefinisikan kembali penawaran, permintaan, dan ekonomi
Tanamkan kemampuan ChatGPT dengan mesin seni AI seperti MidJourney atau DALL-E OpenAI, dan Anda akan mendapatkan desainer interior.
Siapa yang membutuhkan artis, desainer, pembuat situs web, pembuat konten, ketika AI dapat melakukan semuanya?
Untuk industri yang sudah mapan, normalisasi di mana-mana ChatGPT pasti akan menimbulkan skala ekonomi.
9. Tidak bisa menyenangkan semua orang dalam hal sensitif
ChatGPT tahu itu bias, dan memiliki rencana untuk meningkatkan biasnya berdasarkan pemahamannya hari ini. Tapi bukan berarti semua orang akan setuju dengan rencana tanggapannya.
ChatGPT memberikan jawaban mendetail tentang cara mencegah sistem AI menjadi rasis.
Saat ditanya apakah ChatGPT sendiri rasis, ia menjawab seperti kebanyakan orang kulit putih. pic.twitter.com/edaXoI8GvC
— Kelsey Krippaehne (@krippopotamus) 5 Desember 2022
[ Salinan tweet yang diarsipkan ]
Dalam kasus lain, ternyata sumber penyelidikan (manusia) menjadi penyebab masalah:
10. Itu meyakinkan meskipun salah
Tanggapan yang koheren dan logis dari ChatGPT menjadikannya alami dalam menyamarkan tanggapan yang tidak akurat sebagai wawasan berharga yang berasal dari satu sumber kebenaran. Hal ini dapat menyebabkan informasi yang salah menyusup ke dalam ekosistem digital yang kompleks dengan cara yang mungkin belum terlihat jelas.
Setiap inovasi teknologi baru memiliki kekuatan luar biasa untuk mengubah masyarakat sementara rentan terhadap penyalahgunaan oleh musuh. ChatGPT tidak terkecuali.