Microsoft menjanjikan pengalaman Copilot yang lebih baik dalam melawan serangan siber
Microsoft sering dianggap oleh banyak orang sebagai pemimpin dunia dalam AI generatif
2 menit Baca
Ditampilkan di
Bagikan artikel ini
Sempurnakan panduan ini
Baca halaman pengungkapan kami untuk mengetahui bagaimana Anda dapat membantu MSPoweruser mempertahankan tim editorial Baca lebih lanjut
Catatan kunci
- Kemajuan pesat AI menimbulkan kekhawatiran tentang penyalahgunaan dan kerentanan.
- Microsoft kemudian mengatasi masalah ini dengan AI generatif seperti LLM & cara memerangi penyalahgunaan AI.
- Perusahaan Redmond menggunakan pertahanan seperti Spotlighting untuk melindungi dari serangan terhadap sistem AI.
Kecerdasan Buatan (AI) adalah teknologi paling mutakhir yang pernah kita lihat, dan kemajuan pesatnya terkadang dapat meresahkan. Ada yang bilang begitu maju terlalu cepat dengan AI, dan dengan waktu yang sangat singkat namun kemajuan yang begitu pesat, AI rentan terhadap penyalahgunaan dan kerentanan.
Microsoft telah baru-baru ini diuraikan pendekatannya untuk mengatasi masalah ini dengan AI generatif, khususnya model bahasa besar (LLM). Raksasa teknologi Redmond ini sering dianggap sebagai pemimpin dunia dalam pasar AI generatif, berkat alat asisten Copilot AI di Windows dan seluler.
Microsoft mengatakan bahwa hal itu membatasi apa yang dapat dan akan dilakukan LLM dengan menggunakan beberapa lapisan pertahanan melalui arsitektur Microsoft AI. Lapisan tersebut dimaksudkan untuk menghentikan dua jenis serangan utama terhadap sistem AI, baik itu perintah berbahaya atau konten beracun.
Microsoft telah mengembangkan teknik yang disebut Spotlighting, yang menandai data eksternal untuk membedakannya dari instruksi yang sah. Misalnya, email yang buruk dapat mengelabui AI agar mengungkapkan informasi sensitif dari email pengguna, dan sistem ini dapat membantu AI membedakannya dari perintah sebenarnya tanpa memperlambatnya.
Dan ini sangat membantu, mengingat akan segera menjadi Copilot di mana saja di Outlook, layanan email populer. Microsoft juga menyadari adanya serangan siber jenis baru yang disebut Crescendo yang dapat memanipulasi sistem AI seperti Copilot untuk membuat konten berbahaya.
“Dalam kasus Crescendo, tim kami melakukan pembaruan perangkat lunak pada teknologi LLM di balik penawaran AI Microsoft, termasuk asisten Copilot AI kami, untuk mengurangi dampak dari bypass pagar pembatas AI multiturn ini,” janji Microsoft.
OpenAI, perusahaan AI yang sedang naik daun dengan kekuatan yang besar dukungan keuangan dari Microsoft, juga memiliki terbatas penggunaan AI untuk kampanye politik, sebagai upaya untuk mempromosikan AI yang lebih sehat dan tidak disalahgunakan.
