Microsoft lupaa paremman Copilot-kokemuksen kyberhyökkäyksiä vastaan
Monet pitävät Microsoftia maailman johtavana generatiivisen tekoälyn valmistajana
2 min. lukea
Julkaistu
Jaa tämä artikkeli
Paranna tätä ohjetta
Lue ilmoitussivumme saadaksesi selville, kuinka voit auttaa MSPoweruseria ylläpitämään toimitustiimiä Lue lisää
Keskeiset huomautukset
- Tekoälyn nopea kehitys herättää huolta väärinkäytöstä ja haavoittuvuuksista.
- Sitten Microsoft käsittelee näitä ongelmia generatiivisilla tekoälyillä, kuten LLM:illä, ja miten se torjuu tekoälyn väärinkäyttöä.
- Redmond-yhtiö käyttää suojautumiskeinoja, kuten Spotlightingia, suojautuakseen tekoälyjärjestelmien hyökkäyksiltä.
Tekoäly (AI) on kuumin teknologian osa, jonka näimme tulevan, ja sen nopea kehitys voi toisinaan olla hämmentävää. Jotkut sanoivat, että olemme etenee liian nopeasti Tekoälyn kanssa, ja niin vähän aikaa, mutta niin paljon edistystä, tekoäly on altis väärinkäytölle ja haavoittuvuuksille.
Microsoft on äskettäin hahmoteltu lähestymistapansa näiden ongelmien ratkaisemiseen generatiivisilla tekoälyillä, erityisesti suurilla kielimalleilla (LLM). Redmondin teknologiajättiä pidetään usein maailman johtavana generatiivisen tekoälyn markkinoilla Windows- ja mobiililaitteiden Copilot AI -avustajatyökalun ansiosta.
Microsoft sanoo, että se rajoittaa sitä, mitä LLM voi tehdä ja tekee käyttämällä useita suojauskerroksia Microsoft AI:n arkkitehtuurin kautta. Tasojen on tarkoitus pysäyttää kaksi päätyyppiä tekoälyjärjestelmiin kohdistuvia hyökkäyksiä, olipa kyse haitallisista kehotteista tai myrkytystä sisällöstä.
Microsoft on kehittänyt Spotlighting-nimisen tekniikan, joka merkitsee ulkoiset tiedot erottaakseen ne laillisista ohjeista. Esimerkiksi huono sähköposti voi huijata tekoälyä paljastamaan arkaluontoisia tietoja käyttäjän sähköposteista, ja tämä järjestelmä voi auttaa tekoälyä erottamaan sen todellisista komennoista hidastamatta sitä.
Ja se on erittäin hyödyllistä, kun otetaan huomioon, millainen Copilot pian on kaikkialla Outlookissa, suosittu sähköpostipalvelu. Microsoft on myös tietoinen uudenlaisesta Crescendo-nimisestä kyberhyökkäyksestä, joka voi manipuloida tekoälyjärjestelmiä, kuten Copilot, luomaan haitallista sisältöä.
"Crescendon tapauksessa tiimimme tekivät ohjelmistopäivityksiä Microsoftin AI-tarjousten takana olevaan LLM-teknologiaan, mukaan lukien Copilot AI -avustajamme, vähentääkseen tämän monikäänteisen AI-suojakaiteen ohituksen vaikutusta", Microsoft lupaa.
OpenAI, nouseva tekoälyyritys, jolla on mojovia taloudellinen tuki Microsoftilta, on myös rajoitettu tekoälyn käyttö poliittisissa kampanjoissa, sillä se pyrkii edistämään terveellisempää tekoälyn väärinkäyttöä.
