Walau punya fitur yang terlihat mengejutkan, tidak selamanya AI chatbot seperti ChatGPT punya tingkat keakuratan yang 100% tanpa ada kesalahan informasi. Terkadang ChatGPT atau AI chatbot lain bisa memberikan informasi yang salah ataupun tidak relevan kepada pengguna yang berujung misinformasi.
Hal ini tampaknya disadari oleh NVIDIA sebagai penyedia hardware training dan pengaplikasian LLM atau Large Language Model. Untuk memitigasi hal tersebut terjadi, mereka tampaknya punya sebuah software khusus yang dirancang untuk itu.
Daftar isi
Software NVIDIA NeMo Guardrails Bisa Saring Informasi AI ke Pengguna
NVIDIA menamai software baru mereka ini dengan NeMo Guardrails. Sesuai namanya, ia bertugas untuk menyaring informasi yang akan diberikan kepada user oleh para AI chatbot agar tidak terjadinya misinformasi. Software ini tersedia secara open source dan bisa kalian temukan di laman GitHub.
NVIDIA sendiri mengatakan software yang mereka rancang ini akan berjalan secara akurat, sesuai, dan aman. Tentunya software ini akan menjadi suatu protokol atau layer untuk menyaring informasi sebelum diberikan kepada pengguna.
Developer Bisa Atur Batasan Berdasarkan Tiga Hal
Para pengembang AI chatbot nantinya akan bisa mengatur batasan berdasarkan topik, keselamatan, dan dan pedoman keamanan. Sebagai contohnya batasan topik akan tidak mengizinkan AI tersebut untuk memasukkan topik yang tidak relevan.
Batasan keselamatan sendiri memberikan batasan kepada AI untuk tidak mengambil dari sumber yang tidak kredibel. Termasuk juga diantaranya tidak melontarkan bahasa kurang sesuai. Sedangkan batasan terakhir soal keamanan akan membatasi AI chatbot untuk menggunakan aplikasi eksternal yang tidak aman atau aplikasi yang tidak mendapatkan persetujuan seperti akses ke aplikasi perbankan atau file personal.
Akan Kompatibel untuk Kebanyakan AI Chatbot
NVIDIA sendiri mengatakan NeMo Guardrails sendiri akan bisa digunakan pada kebanyakan LLM chatbot yang sudah ada. Pengaplikasian juga dikatakan cukup mudah sehingga developer sangat disarankan untuk menggunakan software open source ini.
Bisa dikatakan software ini merupakan salah satu update yang banyak ditunggu-tunggu sebagai salah satu pedoman moral yang dibutuhkan oleh AI yang minim regulasi ini.
Baca juga informasi menarik Gamebrott lainnya terkait Tech atau artikel lainnya dari Andi. For further information and other inquiries, you can contact us via author@gamebrott.com.
