Microsoft lovar bättre Copilot-upplevelse mot cyberattacker
Microsoft anses ofta av många vara världsledande inom generativ AI
2 min. läsa
Publicerad den
Dela den här artikeln
Förbättra den här guiden
Läs vår informationssida för att ta reda på hur du kan hjälpa MSPoweruser upprätthålla redaktionen Läs mer
Viktiga anteckningar
- AI:s snabba framsteg väcker oro för missbruk och sårbarheter.
- Microsoft tar sedan upp dessa problem med generativ AI som LLM och hur det bekämpar AI-missbruk.
- Redmond-företaget använder försvar som Spotlighting för att skydda mot attacker på AI-system.
Artificiell intelligens (AI) är den hetaste tekniken vi såg komma, och dess snabba framsteg kan ibland vara oroande. Vissa sa att vi är det avancerar alldeles för fort med AI, och med så lite tid men ändå så mycket framsteg, är AI benägen att missbrukas och sårbarheter.
Microsoft har nyligen beskrivs dess inställning till att ta itu med dessa problem med generativ AI, särskilt stora språkmodeller (LLM). Teknikjätten Redmond anses ofta vara världsledande på den generativa AI-marknaden, tack vare Copilot AI-assistentverktyget på Windows och mobil.
Microsoft säger att det begränsar vad LLM kan och kommer att göra med hjälp av flera lager av försvar genom Microsoft AI:s arkitektur. Lagren är avsedda att stoppa två huvudtyper av attacker på AI-system, oavsett om det är skadliga uppmaningar eller förgiftat innehåll.
Microsoft har utvecklat en teknik som kallas Spotlighting, som markerar extern data för att skilja den från legitima instruktioner. Till exempel kan ett dåligt e-postmeddelande lura AI:n att avslöja känslig information från användarens e-postmeddelanden, och det här systemet kan hjälpa AI:n att skilja den från riktiga kommandon utan att sakta ner den.
Och det är oerhört användbart, med tanke på hur Copilot snart kommer att vara överallt i Outlook, den populära e-posttjänsten. Microsoft är också medveten om en ny typ av cyberattack som kallas Crescendo som kan manipulera AI-system som Copilot för att skapa skadligt innehåll.
"När det gäller Crescendo, gjorde våra team mjukvaruuppdateringar av LLM-tekniken bakom Microsofts AI-erbjudanden, inklusive våra Copilot AI-assistenter, för att mildra effekterna av denna multiturn AI-räckesbypass", lovar Microsoft.
OpenAI, det växande AI-företaget med rejäl ekonomiskt stöd från Microsoft, har också begränsad användningen av AI för politiska kampanjer, eftersom det försöker främja hälsosammare, inget missbruk av AI.
