Google Gunakan AI untuk Menampilkan Rangkuman Jawaban Soal Kesehatan, Bisa Dipercaya?

TEMPO.CO, Jakarta - Google Cloud telah merilis alat berbasis kecerdasan buatan disingkat AI generatif yang memfasilitasi pencarian informasi bagi dokter melalui catatan pasien, dokumen yang telah dipindai, serta data klinis lainnya.

Alat ini, yang diberi nama Vertex AI Search for Healthcare, kini dapat diakses oleh pelanggan Google Cloud, demikian diumumkan oleh perusahaan teknologi tersebut pada konferensi HIMSS di Las Vegas. Selain fungsi pencarian, teknologi ini juga mampu menjawab pertanyaan, seperti pertanyaan mengenai riwayat kesehatan pasien.

Dapatkah AI Overview dipercaya untuk menjawab pertanyaan kesehatan?

Dilansir dari cnalifestyle, dalam beberapa minggu sejak alat ini diluncurkan, pengguna telah melaporkan berbagai jawaban yang tidak akurat dan aneh pada berbagai topik. Para ahli juga memperingatkan bahwa risiko dari jawaban yang salah dalam konteks kesehatan sangat besar.

Teknologi ini bisa mendorong masyarakat untuk menjalani kebiasaan yang lebih sehat atau mencari perawatan medis, tetapi di sisi lain juga bisa memberikan informasi yang tidak akurat. AI kadang-kadang dapat mengarang fakta, dan jika jawabannya didasarkan pada situs-situs yang tidak ilmiah, maka saran yang diberikan bisa bertentangan dengan pedoman medis atau berisiko bagi kesehatan seseorang.

Sistem ini telah diketahui memberikan jawaban-jawaban yang buruk berdasarkan sumber-sumber yang tidak dapat dipercaya. Misalnya, ketika ditanya "berapa banyak batu yang harus saya makan," AI Review menyarankan beberapa pengguna untuk makan setidaknya satu batu sehari untuk mendapatkan vitamin dan mineral, yang ternyata berasal dari The Onion, sebuah situs satir.

Sumber yang diambil

Dilansir dari the-decoder.com, AI Overview mengumpulkan informasi dari berbagai sumber untuk pertanyaan kesehatan, seperti Mayo Clinic, WebMD, Organisasi Kesehatan Dunia, dan pusat penelitian ilmiah PubMed. 

Namun, sumber-sumber tersebut hanya sebagian kecil dari sumber-sumber yang digunakan. Alat ini juga dapat mengambil informasi dari Wikipedia, postingan blog, platform sosial seperti Reddit, dan situs web e-commerce. Namun, alat ini tidak menyediakan informasi tentang sumber asal dari setiap fakta yang disajikan.

Proses ini dapat menyebabkan kesalahan dan bahkan mungkin melanggar peraturan Google sendiri terhadap konten berisi spam. AI Overview juga terkadang mengambil kalimat di luar konteks.

Dalam hasil pencarian yang biasa, pengguna sering dapat dengan mudah membedakan antara situs web medis terpercaya dan situs web biasa. Namun, jika informasi dari berbagai sumber disajikan dalam satu blok teks, hal ini dapat menimbulkan kebingungan.

Respons pihak Google

Dilansir dari sg.news.yahoo.com, Hema Budaraju, direktur senior manajemen produk di Google yang turut memimpin pengembangan AI Overview, menyatakan bahwa dalam penelusuran kesehatan, terdapat "pagar tambahan" yang diterapkan, namun dia enggan memberikan detail lebih lanjut. 

Dia menjelaskan bahwa penelusuran yang dianggap berisiko atau eksplisit, atau yang menunjukkan bahwa seseorang dalam kondisi rentan seperti cedera diri sendiri, tidak akan menampilkan ringkasan AI.

Google menolak untuk memberikan daftar lengkap situs web yang dijadikan referensi dalam AI Overview, tetapi menyatakan bahwa alat tersebut berintegrasi dengan Grafik Pengetahuan Google, sebuah sistem informasi yang telah mengumpulkan miliaran fakta dari ratusan sumber.

Juru bicara Google mengatakan bahwa AI Overview akan mencocokkan atau merangkum informasi yang muncul di hasil pencarian teratas, namun tidak dirancang untuk menggantikan konten tersebut. Sebaliknya, kata juru bicara tersebut, ini dirancang untuk membantu masyarakat memahami informasi yang tersedia.

CNA LIFESTYLE | SG NEWS
Pilihan editor: Hari Ini WWDC 2024 Dimulai Apple Fokus Bahas Penerapan AI di Sistemnya