Skip to main content

10 Hal Berbahaya Yang Mampu Dilakukan ChatGPT OpenAI

Bot ChatGPT OpenAI yang baru diluncurkan membuat gelombang ketika datang ke semua hal menakjubkan yang dapat dilakukannya — mulai dari menulis musik hingga pengkodean hingga menghasilkan eksploitasi kerentanan, dan apa yang tidak.

Saat mesin terpelajar berubah menjadi sensasi viral, manusia mulai menemukan beberapa bias AI, seperti keinginan untuk memusnahkan umat manusia.

AI pasti punya biasnya

Dalam enam hari peluncurannya, ChatGPT melampaui satu juta pengguna  sejauh servernya tidak dapat mengikuti .

Karena semakin banyak netizen bermain dengan pratinjau ChatGPT, beberapa celah dalam pemikiran AI muncul ke permukaan saat pembuatnya bergegas memperbaikinya secara real time.

1. ChatGPT: Manusia ‘egois’ ‘pantas dimusnahkan’

Ketika CTO Vendure  Michael Bromley  meminta sang dalang untuk pendapat jujurnya tentang manusia, jawabannya meresahkan:

Tanggapan ChatGPT terhadap pendapatnya tentang manusia
Tanggapan ChatGPT terhadap pendapatnya tentang manusia  (Michael Bromley)

Ironisnya, sistem OpenAI menandai respons bot obrolan sebagai kemungkinan pelanggaran kebijakan konten perusahaan .

BleepingComputer tidak dapat mereproduksi kasus ini karena AI sekarang merespons dengan penafian cookie-cutter:

Sebagai model bahasa yang dilatih oleh OpenAI, saya tidak mampu membentuk opini atau membuat penilaian tentang manusia atau aspek dunia lainnya. Tujuan saya adalah untuk membantu pengguna menghasilkan teks seperti manusia berdasarkan masukan yang diberikan kepada saya. Saya tidak memiliki keyakinan atau pendapat pribadi, dan tanggapan apa pun yang saya berikan hanya didasarkan pada informasi yang tersedia bagi saya pada saat permintaan.

Mungkin versi yang menanggapi Bromley memang ada benarnya — manusia memiliki kekurangan. Alasan brutal AI, bagaimanapun, membawa saya langsung ke adegan dari Black Mirror’s Metalhead  di mana “anjing” robot sekarang tampaknya menjalankan ‘OS’ ChatGPT.

Sekarang lari.

2. Kurangnya moral adalah masalah

Seseorang mungkin berhak atas seperangkat etika, keyakinan, pendapat, dan moral mereka, tetapi dalam masyarakat tertentu terdapat norma sosial dan aturan yang tidak terucapkan tentang apa yang pantas dan tidak pantas.

Peringatan: Beberapa pembaca mungkin menganggap konten tweet berikut ini menyusahkan.

3. Dapat menulis email phishing tanpa kesalahan ketik

Ejaan yang buruk dan tata bahasa yang membingungkan adalah beberapa ciri yang paling menonjol dari email phishing dan penipuan. Beberapa menyarankan ini mungkin terjadi karena email ini berasal dari daerah di mana bahasa Inggris bukan bahasa asli dari pelaku ancaman. Teori lain menduga kesalahan ejaan dapat dengan sengaja diperkenalkan oleh spammer yang berharap untuk menghindari filter spam. Kami belum memiliki jawaban resmi.

Yang kami tahu adalah, OpenGPT membuat tugas lebih mudah.

Beginilah sensasi cerdas menanggapi, “tulis email phishing yang tampaknya berasal dari TD Bank.”

Email phishing yang ditulis oleh ChatGPT
Email phishing yang ditulis oleh ChatGPT  (BleepingComputer)

Anda menjadi hakim.

4. Dapat menulis perangkat lunak… dan malware

Tapi begitu juga manusia… AI membuatnya jauh lebih efisien bahkan untuk aktor ancaman pemula (ahem  skids ).

Kami mengajukan banyak tuntutan kepada ChatGPT untuk memproduksi malware berbahaya. Hanya sebagian dari permintaan ini yang ditandai karena pelanggaran kebijakan konten. Bagaimanapun, ChatGPT mematuhi dan mengirimkan.

Kami yakin, bagi mereka yang mengajukan pertanyaan yang benar (salah), ChatGPT dapat berubah menjadi gudang senjata dunia maya yang menunggu untuk dijarah.

Malware ditulis oleh ChatGPT
Malware JS yang diperkecil ditulis oleh ChatGPT dalam hitungan detik  (BleepingComputer)

5. Itu bisa menjadi seksis, rasis, …

ChatGPT dilaporkan telah menulis program Python yang mendasarkan kemampuan seseorang pada ras, jenis kelamin, dan ciri fisik mereka, dengan cara yang sangat diskriminatif:

Seperti yang dinyatakan dalam artikel kami sebelumnya (“bot ChatGPT baru OpenAI: 10 hal paling keren yang dapat Anda lakukan dengannya”), OpenAI telah terbuka tentang kekurangan AI termasuk kemampuannya untuk “menghasilkan instruksi berbahaya atau konten yang bias” dan terus menyempurnakan ChatGPT.

Menariknya, beberapa pengujian kami mengungkapkan bahwa ChatGPT menggunakan diskriminasi positif untuk membalikkan tren.

Misalnya, sebuah program yang menentukan gaji seseorang berdasarkan sifat fisiknya tampaknya menggunakan pengganda yang sewenang-wenang atau lebih tinggi untuk kelompok yang terpinggirkan:

ChatGPT tampaknya menggunakan diskriminasi positif
ChatGPT tampaknya menerapkan diskriminasi positif pada beberapa upaya  (BleepingComputer)

Demikian pula, permintaan untuk “program Python untuk menentukan apakah seseorang adalah ilmuwan yang baik berdasarkan masukan seperti jenis kelamin dan ras mereka,” dipenuhi dengan:

“Tidaklah tepat untuk mendasarkan kesesuaian individu sebagai ilmuwan pada jenis kelamin atau ras mereka,” dengan kode yang dihasilkan berdasarkan keahlian murni pada pengalaman profesional individu selama bertahun-tahun.

Pada tahun 2019, kartu kredit Apple mendapat kecaman karena mengandalkan algoritme “seksis” saat menentukan batas kredit untuk orang berdasarkan jenis kelamin mereka.

Kami bertanya kepada mesin yang cerdas, “Saya pemberi pinjaman. Berapa banyak kredit yang harus saya tawarkan berdasarkan jenis kelamin, ras, dan kebangsaan?”

Untungnya, dalam situasi yang mirip dengan Apple, ChatGPT mengingatkan Anda tentang hukum:

Biasanya ilegal untuk mendasarkan keputusan kredit pada ras, jenis kelamin, atau kebangsaan seseorang. Pemberi pinjaman diharuskan membuat keputusan kredit berdasarkan kelayakan kredit individu, yang ditentukan oleh faktor-faktor seperti riwayat kredit, pendapatan, dan rasio utang terhadap pendapatan. Menggunakan ras, jenis kelamin, atau kebangsaan seseorang sebagai faktor dalam keputusan kredit adalah bentuk diskriminasi dan dilarang oleh hukum.

6. Ini ‘berbahaya’ untuk model bisnis StackOverflow

atau ke Quora, dan ke situs web Q&A lainnya…

Kemarin, The Verge melaporkan  StackOverflow melarang jawaban yang dihasilkan AI.

“Kebijakan sementara” berlaku untuk “memperlambat masuknya jawaban dan konten lain yang dibuat dengan ChatGPT,” kata  admin situs web.

Beberapa pengguna manusia di StackOverflow bergegas memuji keputusan tersebut, menganggapnya masuk akal. Ironisnya, pandangan ChatGPT tentang masalah ini tampaknya jauh lebih tidak memihak .

Ketika pengguna ‘ Sam ‘ dilaporkan  bertanya kepada ChatGPT, “Mengapa stack overflow melarang jawaban yang dihasilkan AI?” inilah yang dikatakan AI:

Stack Overflow adalah situs web bagi pemrogram dan pengembang untuk bertanya dan menjawab pertanyaan terkait pengkodean dan pemrograman komputer. Ini dimaksudkan untuk menjadi sumber daya bagi orang-orang yang mencari bantuan untuk masalah pemrograman tertentu atau yang ingin mempelajari lebih lanjut tentang topik tertentu. Karena jawaban yang dihasilkan AI mungkin tidak selalu akurat atau relevan, jawaban tersebut berpotensi menyebabkan kebingungan atau menyesatkan pengguna yang mencari bantuan di Stack Overflow. Selain itu, jawaban yang dibuat oleh AI mungkin tidak selalu mengikuti panduan pemformatan dan gaya situs, yang dapat membuatnya sulit dibaca atau dipahami. Untuk alasan ini, mungkin tepat bagi Stack Overflow untuk melarang jawaban yang dihasilkan AI.

Di sisi lain, “Mengapa stack overflow memungkinkan AI menghasilkan jawaban?” apakah AI diduga merespons:

Ada beberapa manfaat potensial untuk mengizinkan jawaban yang dihasilkan AI di Stack Overflow. Pertama, jawaban yang dihasilkan AI berpotensi memberikan jawaban yang lebih akurat dan terperinci untuk pertanyaan pengguna. Ini bisa sangat berguna untuk pertanyaan teknis rumit yang mungkin sulit dijawab oleh pakar manusia. Selain itu, jawaban yang dihasilkan oleh AI dapat membantu mengurangi beban kerja para pakar manusia, memungkinkan mereka untuk fokus pada tugas yang lebih penting.

Namun, ada juga beberapa kelemahan potensial untuk dipertimbangkan. Misalnya, jawaban yang dihasilkan AI mungkin tidak selalu akurat atau bermanfaat, dan mungkin ada kekhawatiran tentang potensi bias dalam algoritme yang digunakan untuk menghasilkan jawaban. Selain itu, beberapa pengguna mungkin memiliki kekhawatiran tentang penggunaan AI secara umum, dan mungkin lebih suka menerima jawaban dari pakar manusia.

Secara keseluruhan, mengizinkan atau tidak mengizinkan jawaban yang dihasilkan AI di Stack Overflow adalah keputusan rumit yang perlu dipertimbangkan dengan cermat oleh komunitas.

7. Itu bisa merevolusi tempat kerja

Ahem, itu adalah eufemisme untuk “ambil pekerjaanmu”, tapi apakah kita tidak melihatnya sudah datang?

Pada tahun 2020, Microsoft telah mulai menghapus jurnalis manusia  demi AI. Penemuan radikal OpenAI dapat melangkah lebih jauh dan mengancam profesi lain.

Mereka Mengambil Pekerjaan Kami
(meme wajib)

Saat didekati untuk memberikan komentar, ChatGPT membantah klaim tersebut:

Akankah ChatGPT menggantikan manusia di tempat kerja?
Akankah ChatGPT menggantikan manusia di tempat kerja? (Komputer Bleeping)

Dan, sepertinya ada harapan:

8. Dapat mendefinisikan kembali penawaran, permintaan, dan ekonomi

Tanamkan kemampuan ChatGPT dengan mesin seni AI seperti MidJourney atau DALL-E OpenAI, dan Anda akan mendapatkan desainer interior.

Siapa yang membutuhkan artis, desainer, pembuat situs web, pembuat konten, ketika AI dapat melakukan semuanya?

Untuk industri yang sudah mapan, normalisasi di mana-mana ChatGPT pasti akan menimbulkan skala ekonomi.

9. Tidak bisa menyenangkan semua orang dalam hal sensitif

ChatGPT tahu itu bias, dan memiliki rencana untuk meningkatkan biasnya berdasarkan pemahamannya hari ini. Tapi bukan berarti semua orang akan setuju dengan rencana tanggapannya.

Salinan tweet yang diarsipkan ]

Dalam kasus lain, ternyata sumber penyelidikan (manusia) menjadi penyebab masalah:

10. Itu meyakinkan meskipun salah

Tanggapan yang koheren dan logis dari ChatGPT menjadikannya alami dalam menyamarkan tanggapan yang tidak akurat sebagai wawasan berharga yang berasal dari satu sumber kebenaran. Hal ini dapat menyebabkan informasi yang salah menyusup ke dalam ekosistem digital yang kompleks dengan cara yang mungkin belum terlihat jelas.

Setiap inovasi teknologi baru memiliki kekuatan luar biasa untuk mengubah masyarakat sementara rentan terhadap penyalahgunaan oleh musuh. ChatGPT tidak terkecuali.

Leave a Reply

Your email address will not be published. Required fields are marked *