Microsoft sepertinya turut mengakui kalau AI agent yang mereka sematkan di Windows 11 tetap berpotensi menghasilkan halusinasi. Lah, kok bisa?
Microsoft Akui AI Agent Windows 11 Masih Berpotensi Halusinasi
Meski pun mengakui kalau AI agent di Windows 11 punya potensi untuk berhalusinasi, nyatanya Microsoft masih terus menghadirkan fitur-fitur AI dalam sistem operasi mereka. Terlebih setelah mereka mengklaim kalau ke depannya semua PC yang menggunakan Windows akan disulap menjadi AI PC.
Dalam dokumentasi terbaru mereka, Microsoft menyatakan kalau AI agent tersebut “mengalami keterbatasan fungsi dalam hal perilaku mereka dan kadang-kadang dapat mengalami halusinasi serta menghasilkan output yang tidak terduga.”
Salah satu risiko terbesar yang digembar-gemborkan oleh Microsoft adalah Cross Prompt Injection (XPIA) yang mana terjadi ketika kondisi AI dikelabui oleh konten dengan tujuan jahat yang disandingkan dalam elemen UI, dokumen, media, dan lainnya.
Microsoft akui kalau kejadian berpotensi untuk membocorkan data pengguna karena pihak yang memasangkan prompt ini bisa mengambil alih prompt sebelumnya. Dengan begitu, risiko pencurian data secara tidak sadar akan semakin besar.
Namun, Microsoft sendiri mengaku kalau agents ini bekerja dengan limitasi izin dan juga akses folder yang terkontrol, dan juga log yang tidak dapat di-tamper. Tetapi, agents masih bisa membaca dan menulis terhadap akses berbagai file yang personal pada PC. Gimana menurut kamu? Apakah Windows kian buruk pengamanannya?
Dapatkan informasi keren di Gamebrott terkait Tech atau artikel sejenis yang tidak kalah seru dari Andi. For further information and other inquiries, you can contact us via author@gamebrott.com.
