TEMPO.CO, Jakarta - Amazon Web Services (AWS) membeberkan cara mengurangi biaya pelatihan model AI generatif dengan layanan baru yang mereka miliki, yaitu Amazon Bedrock, Amazon EC2 Trn1n dan Amazon EC2 Inf2 serta Amazon CodeWhisperer.
AWS merupakan anak perusahaan Amazon yang menyediakan platform komputasi awan dan API sesuai permintaan untuk individu, perusahaan dan pemerintah dengan basis terukur dan pembayaran sesuai pemakaian. Kepala Teknolog AWS Olivier Klein memperkenalkan tiga layanan AI generatif ini dalam acara media briefing pada Senin, 3 Juli 2023 di Jakarta.
Olivier menjelaskan layanan Amazon Bedrock dapat memberikan cara mudah untuk menskalakan aplikasi AI generatif dengan foundational models (FM) atau model dasar yang telah dilatih sebelumnya. Dengan layanan ini, AWS memberikan model yang dapat digunakan pelanggan dalam cloud pribadi masing-masing dan melatihnya secara aman dengan data mereka. Ini menjadi cara mudah untuk membuat berbagai aplikasi AI generatif berbeda.
“Bedrock menjadi platform yang memungkinkan kita untuk mempunyai berbagai macam model dasar,” kata Olivier. “Pelanggan sekarang dapat menggunakannya dengan cepat tanpa pelatihan apa pun, hanya perlu menyempurnakannya sesuai dengan perusahaan masing-masing."
Selain Bedrock, Olivier memaparkan bagaimana AWS dapat membantu pelanggan mengurangi biaya melatih dan menjalankan model machine learning atau pembelajaran mesin, yaitu dengan Amazon EC2 Trn1n dan Amazon EC2 Inf2. “Karena model ini sangat besar, kami ingin melihat bagaimana bisa melakukannya dengan biaya yang efektif dan hemat energi,” kata dia.
Amazon EC2 Trn1n dan Amazon EC2 Inf2 atau lebih spesifik AWS Trainium dan AWS Inferentia, disebut sebagai chipset khusus yang diproduksi oleh AWS. Chipset khusus ini ditawarkan oleh AWS kepada pelanggan sebagai tambahan dari chipset lain yang beredar di pasaran.
Mereka dirancang khusus untuk menurunkan biaya menjalankan model AI, khususnya model AI generatif, dalam hal membuat prediksi. AWS Inferentia memiliki biaya per inferensi terendah di cloud untuk menjalankan model deep learning (DL), hingga 70 persen lebih rendah daripada instans Amazon EC2 lain yang sebanding.
Adapun iterasi kedua Inferentia yaitu AWS Inferentia2 dapat memberikan performa tinggi dengan biaya per inferensi terendah untuk large language models (LLM) dan model difusi mencapai 40 persen performa harga lebih baik dibandingkan instans Amazon EC2 lain. Sedangkan, Amazon Trainium menawarkan pelatihan LLM dan model difusi yang paling hemat biaya dan berkinerja tinggi, menghemat hingga 50 persen untuk biaya pelatihan.
“Jadi, dengan kami terus melakukan ini, pelanggan dapat menurunkan biaya pelatihan dan proses inference, juga mengurangi konsumsi energi yang dibutuhkan untuk pelatihan dan menjalankan model AI,” ujar Olivier.
Masih dalam upaya membuat penggunaan AI generatif lebih efektif, AWS juga memiliki CodeWhisperer, yaitu pendamping dalam proses coding. Pelanggan dapat menggunakan bahasa pemrograman Nitro yang kemudian akan diterjemahkan oleh CodeWhisperer ke dalam berbagai variasi.
Keunggulan dari CodeWhisperer adalah dapat menghasilkan saran kode secara real time, memindai kode untuk kerentanan yang sulit ditemukan dan menandai kode yang menyerupai data pelatihan open-source untuk kemudian disaring secara otomatis. Dalam sebuah tantangan yang dilakukan oleh Amazon selama masa pratinjau, hasil menunjukkan bahwa peserta yang menggunakan CodeWhisperer 27 persen lebih mungkin menyelesaikan tugas dengan sukses.
Selain tingkat kesuksesan, peserta melakukan tugas rata-rata 57 persen lebih cepat daripada mereka yang tidak menggunakan CodeWhisperer. “Menurut saya, ini cara yang baik untuk menjadi lebih efektif,” kata Olivier.
Pilihan Editor: Apa Dampak AI Generatif seperti ChatGPT terhadap Lingkungan?
