Microsoft obljublja boljšo izkušnjo Copilot pred kibernetskimi napadi
Microsoft pogosto velja za vodilnega v svetu na področju generativne umetne inteligence
2 min. prebrati
Objavljeno dne
Dajte v skupno rabo ta članek
Izboljšajte ta vodnik
Preberite našo stran za razkritje, če želite izvedeti, kako lahko pomagate MSPoweruser vzdrževati uredniško skupino Preberi več
Ključne opombe
- Hiter napredek umetne inteligence vzbuja zaskrbljenost glede zlorabe in ranljivosti.
- Microsoft nato te težave obravnava z generativnim umetno inteligenco, kot je LLM, in kako se bori proti zlorabi umetne inteligence.
- Podjetje Redmond uporablja obrambo, kot je Spotlighting, za zaščito pred napadi na sisteme AI.
Umetna inteligenca (AI) je najbolj vroč kos tehnologije, ki smo ga videli, in njen hiter napredek je lahko občasno vznemirjujoč. Nekateri so rekli, da smo prehitro napreduje z umetno inteligenco in s tako malo časa, a tako velikim napredkom, je umetna inteligenca nagnjena k zlorabi in ranljivostim.
Microsoft ima nedavno opisano svoj pristop k reševanju teh vprašanj z generativno umetno inteligenco, zlasti velikimi jezikovnimi modeli (LLM). Tehnološki velikan iz Redmonda pogosto velja za vodilnega na svetu na trgu generativne umetne inteligence, zahvaljujoč orodju Copilot AI Assistant v sistemu Windows in mobilnih napravah.
Microsoft pravi, da omejuje, kaj LLM lahko in bo naredil z uporabo več plasti obrambe prek Microsoftove arhitekture AI. Plasti so namenjene zaustavitvi dveh glavnih vrst napadov na sisteme AI, ne glede na to, ali gre za zlonamerne pozive ali zastrupljeno vsebino.
Microsoft je razvil tehniko, imenovano Spotlighting, ki označuje zunanje podatke, da jih loči od zakonitih navodil. Na primer, slaba e-pošta bi lahko zavedla umetno inteligenco, da razkrije občutljive podatke iz uporabnikove e-pošte, in ta sistem lahko pomaga umetni inteligenci, da jo loči od pravih ukazov, ne da bi jo upočasnil.
In to je izjemno koristno, glede na to, kakšen bo kmalu Copilot povsod v Outlooku, priljubljena e-poštna storitev. Microsoft se prav tako zaveda nove vrste kibernetskega napada, imenovanega Crescendo, ki lahko manipulira sisteme AI, kot je Copilot, v ustvarjanje škodljive vsebine.
»V primeru Crescenda so naše ekipe posodobile programsko opremo tehnologije LLM, ki stoji za Microsoftovimi ponudbami umetne inteligence, vključno z našimi pomočniki umetne inteligence Copilot, da bi ublažile vpliv tega večobratnega obvoda zaščitne ograje z umetno inteligenco,« obljublja Microsoft.
OpenAI, podjetje za umetno inteligenco v vzponu z zajetnimi finančna pomoč od Microsofta, ima tudi omejeno uporaba umetne inteligence za politične kampanje, saj poskuša spodbujati bolj zdravo umetno inteligenco brez zlorabe.
