Lupa Kata Sandi? Klik di Sini

atau Masuk melalui

Belum Memiliki Akun Daftar di Sini


atau Daftar melalui

Sudah Memiliki Akun Masuk di Sini

Konfirmasi Email

Kami telah mengirimkan link aktivasi melalui email ke rudihamdani@gmail.com.

Klik link aktivasi dan dapatkan akses membaca 2 artikel gratis non Laput di koran dan Majalah Tempo

Jika Anda tidak menerima email,
Kirimkan Lagi Sekarang

Bahaya AI Generatif bagi Pengguna

Reporter

Tempo mengulas ChatGPT dan pemanfaatannya di industri kreatif dalam rubrik Urban. Artikel jua adilengkapi dengan seluk-beluk ChatGPT dari sisi teknologi, serta contoh program komputer berbasis AI
Tempo mengulas ChatGPT dan pemanfaatannya di industri kreatif dalam rubrik Urban. Artikel jua adilengkapi dengan seluk-beluk ChatGPT dari sisi teknologi, serta contoh program komputer berbasis AI
Iklan

TEMPO.CO, JakartaInovasi kecerdasan buatan (artificial intelligence atau AI) terus berkembang pesat. Namun, kekhawatiran terkait risiko yang mengiringinya lama-lama semakin menonjol.

Pemangku kebijakan di sejumlah negara bahkan diminta untuk membuat peraturan baru seputar penggunaan AI. Para praktisi teknologi dan bisnis pun telah menyarankan jeda pengembangan AI sementara waktu dan menilai keamanannya.

Avivah Litan, pimpinan analis di Gartner, baru-baru ini mendiskusikan apa yang perlu diperhatikan oleh pihak perusahaan yang bertanggung jawab atas pengembangan AI berkaitan dengan manajemen kepercayaan, risiko, dan keamanan (AI TRiSM)

Menurut Litan, pengembangan AI pada dasarnya tidak akan berhenti. Perusahaan harus segera bertindak dalam merumuskan strategi AI TRiSM. Ada kebutuhan mendesak untuk menciptakan alat pengelola data dan aliran proses antara pengguna dan perusahaan yang menghosting model dasar AI.

Saat ini, belum ada teknologi yang memberikan jaminan privasi sistematis kepada pengguna. Belum ada pula filter konten yang efektif dari keterlibatan mereka dengan AI generatif, seperti menyaring kesalahan faktual, halusinasi, materi berhak cipta, atau informasi rahasia.

Intinya, pengembang AI perlu bekerja sama dengan otoritas baru yang mungkin muncul untuk menetapkan kebijakan dan praktik pengawasan AI dan manajemen risiko.

Ketika ditanya tentang risiko atau bahaya paling signifikan yang ditimbulkan AI, terutama jenis AI generatif, Litan menjabarkan hal-hal berikut.

1. “Halusinasi” dan Pemalsuan

Ini termasuk kesalahan faktual, satu dari beberapa masalah paling umum yang muncul dari produksi AI, misal jawaban chatbot. Sangat mungkin bagi AI untuk menghasilkan respons yang bias atau bahkan salah. Namun, kekeliruan itu semakin sulit dikenali karena solusi AI terlalu cepat dipercaya dan diandalkan oleh pengguna.

2. Deepfake

Risiko AI semakin signifikan ketika itu digunakan untuk membuat konten dengan niat jahat. Gambar, video, dan rekaman suara palsu telah digunakan untuk menyerang selebritas dan politisi dalam menyebarkan informasi yang menyesatkan. Seseorang tak bertanggung jawab bahkan dapat menggunakan AI untuk membuat akun palsu atau mengambil alih akun resmi yang sudah ada.

Iklan
Scroll Untuk Melanjutkan

Dalam contoh baru-baru ini, gambar Paus Francis buatan AI yang mengenakan jaket puffer putih nan modis menjadi viral di media sosial. Walau mungkin tidak berbahaya, contoh ini memberikan gambaran sekilas di mana deepfake menciptakan risiko reputasi, pemalsuan, dan penipuan yang signifikan bagi individu, organisasi, ataupun pemerintah.

3. Privasi Data

Seorang karyawan dapat dengan mudah mengekspos data perusahaan yang sensitif dan eksklusif saat berinteraksi dengan solusi chatbot AI. Aplikasi itu dapat menyimpan informasi yang ditangkap melalui input pengguna tanpa batas waktu serta menggunakannya untuk melatih model lain sehingga makin membahayakan kerahasiaan. Informasi tersebut juga bisa jatuh ke tangan yang salah jika terjadi pelanggaran keamanan.

4. Masalah Hak Cipt

Chatbot AI dilatih pada sejumlah besar data internet yang mungkin menyertakan materi berhak cipta. Akibatnya, beberapa respons mungkin melanggar perlindungan hak cipta atau kekayaan intelektual. Tanpa referensi sumber atau transparansi tentang bagaimana jawaban dihasilkan, satu-satunya cara untuk mengurangi risiko ini adalah pengguna harus memastikan kembali bahwa mereka tidak melanggar hak cipta atau kekayaan intelektual.

5. Polemik Keamanan Siber

Selain rekayasa sosial dan ancaman phishing yang lebih canggih, seorang pelaku kejahatan siber dapat memanfaatkan AI untuk membuat malware dengan lebih mudah. Vendor yang menawarkan model dasar AI generatif meyakinkan pengguna bahwa model mereka telah dilatih untuk menolak permintaan keamanan siber berbahaya. Namun, mereka tidak menyediakan alat bagi pengguna untuk secara efektif mengaudit seluruh kontrol keamanan yang ada.

Vendor juga sangat menekankan pada pendekatan “red teaming”, suatu simulasi untuk mengevaluasi sistem keamanan organisasi dengan menempatkan tim keamanan yang independen sebagai posisi penyerang. Metode ini semata-mata mengharuskan pengguna menaruh kepercayaan penuh kepada kemampuan vendor untuk mengeksekusi tujuan keamanan.

Pilihan editor: Di Balik Gambar Paus Francis Pakai Puffer Jacket yang Viral di Medsos

SYAHDI MUHARRAM

Iklan




Rekomendasi Artikel

Konten sponsor pada widget ini merupakan konten yang dibuat dan ditampilkan pihak ketiga, bukan redaksi Tempo. Tidak ada aktivitas jurnalistik dalam pembuatan konten ini.




Video Pilihan


Google Cloud Jakarta Summit 2023 Luncurkan Kursus AI Gratis untuk Umum

12 jam lalu

Google Cloud. cloud.google.com
Google Cloud Jakarta Summit 2023 Luncurkan Kursus AI Gratis untuk Umum

Google Cloud juga tawarkan solusi kelas perusahaan dan program startup baru di Indonesia


Cerita Drone Tempur AI Tewaskan Operatornya, Angkatan Udara Amerika Membantah

17 jam lalu

Pesawat tanpa awak (drone) milik militer Amerika Serikat, Atomics MQ-9 Reaper terparkir di landasan pacu saat acara Black Dart, uji terbang dari 55 kendaraan udara tak berawak, di Naval Base Ventura County Sea Range, California, 1 Agustus 2015. REUTERS/Patrick T. Fallon
Cerita Drone Tempur AI Tewaskan Operatornya, Angkatan Udara Amerika Membantah

Cerita mengerikan drone AI menyerang balik dan menewaskan tuannya, bak film Terminator, beredar dari konferensi pertahanan internasional.


5 Manfaat ChatGPT Untuk Membantu Pekerjaan Secara Digital

19 jam lalu

Chatgpt. Shutterstock
5 Manfaat ChatGPT Untuk Membantu Pekerjaan Secara Digital

Penggunaan chatGPT sekarang semakin banyak dimanfaatkan untuk berbagai hal, salah satunya membantu pekerjaan di bidang digital.


Mengenal Peranan Penting Artificial Intelligence bagi Dunia Pendidikan

22 jam lalu

Tim mahasiswa Fakultas Matematika dan Ilmu Pengetahuan Alam Universitas Padjadjaran meraih juara pertama di ajang Huawei ICT Competition 2021 kategori Artificial Intelligence (AI) atau kecerdasan buatan. Kredit: Unpad
Mengenal Peranan Penting Artificial Intelligence bagi Dunia Pendidikan

Artificial Intelligence (AI) di sisi lain memiliki potensi untuk mengoptimalkan proses pendidikan melalui peningkatan hasil belajar siswa


Cara Menggunakan Bing Chat, Chatbot Mirip ChatGPT

1 hari lalu

Bing Microsoft. Istimewa
Cara Menggunakan Bing Chat, Chatbot Mirip ChatGPT

Bing Chat merupakan chatbot yang penggunaannya mirip dengan ChatGPT, berikut cara mudah untuk menggunakananya.


Cara Buat Foto Profil Avatar Artificial Intelligence di TikTok

1 hari lalu

Ilustrasi TikTok. REUTERS/Dado Ruvic/Illustration
Cara Buat Foto Profil Avatar Artificial Intelligence di TikTok

Memilih 30 foto terbaik untuk diubah gratis menggunakan fitur Avatar AI (Artificial Intelligence) TikTok sekali per hari. Berikut caranya:


Elon Musk: Cina Bakal Terbitkan Aturan Kecerdasan Buatan

3 hari lalu

Elon Musk yang merupakan pemilik dari perusahaan SpaceX dan Tesla, menempati posisi pertama dalam daftar orang terkaya di dunia tahun 2022 versi Forbes. Ia bahkan baru saja membeli Twitter. Elon Musk kembali menjadi orang terkaya di dunia nomor 1 dengan jumlah kekayaan mencapai US$ 219 miliar. NTB/Carina Johansen via REUTERS
Elon Musk: Cina Bakal Terbitkan Aturan Kecerdasan Buatan

Menurut Elon Musk, Cina akan mengatur penerapan kecerdasan buatan di negaranya.


Inisiasi Pusat Penelitian Robotika dan AI, Universitas Brawijaya Gandeng Jepang

3 hari lalu

Kampus Universitas Brawijaya di Malang, Jawa Timur, Senin, 24 November 2014. [TEMPO/STR/Aris Novia Hidayat; ANH2014112508]
Inisiasi Pusat Penelitian Robotika dan AI, Universitas Brawijaya Gandeng Jepang

Universitas Brawijaya menjalin kerja sama dengan berbagai perguruan tinggi di Negeri Sakura untuk menginisiasi berdirinya pusat penelitian robotika.


6 Manfaat Artificial Intelligence Dalam Kehidupan Manusia

3 hari lalu

6 Manfaat Artificial Intelligence Dalam Kehidupan Manusia

Artificial intelligence didesain untuk membantu manusia menghemat energi dan waktu. Berikut ini manfaat lainnya dari AI


Permudah Layanan Pendidikan, Teknik Informatika UMM Gunakan AI dan Chatbot

4 hari lalu

Ilustrasi kecerdasan buatna. towardscience.com
Permudah Layanan Pendidikan, Teknik Informatika UMM Gunakan AI dan Chatbot

Dalam menjalankan pelayanan pendidikan, program studi Teknik Informatika UMM telah menggunakan Artificial Intelligence atau AI.