Microsoft lupaa paremman Copilot-kokemuksen kyberhyökkäyksiä vastaan

Monet pitävät Microsoftia maailman johtavana generatiivisen tekoälyn valmistajana

Lukuajan kuvake 2 min. lukea


Lukijat auttavat tukemaan MSpoweruseria. Saatamme saada palkkion, jos ostat linkkien kautta. Työkaluvihje-kuvake

Lue ilmoitussivumme saadaksesi selville, kuinka voit auttaa MSPoweruseria ylläpitämään toimitustiimiä Lue lisää

Keskeiset huomautukset

  • Tekoälyn nopea kehitys herättää huolta väärinkäytöstä ja haavoittuvuuksista.
  • Sitten Microsoft käsittelee näitä ongelmia generatiivisilla tekoälyillä, kuten LLM:illä, ja miten se torjuu tekoälyn väärinkäyttöä.
  • Redmond-yhtiö käyttää suojautumiskeinoja, kuten Spotlightingia, suojautuakseen tekoälyjärjestelmien hyökkäyksiltä.
kopilotti Microsoft 365:lle

Tekoäly (AI) on kuumin teknologian osa, jonka näimme tulevan, ja sen nopea kehitys voi toisinaan olla hämmentävää. Jotkut sanoivat, että olemme etenee liian nopeasti Tekoälyn kanssa, ja niin vähän aikaa, mutta niin paljon edistystä, tekoäly on altis väärinkäytölle ja haavoittuvuuksille.

Microsoft on äskettäin hahmoteltu lähestymistapansa näiden ongelmien ratkaisemiseen generatiivisilla tekoälyillä, erityisesti suurilla kielimalleilla (LLM). Redmondin teknologiajättiä pidetään usein maailman johtavana generatiivisen tekoälyn markkinoilla Windows- ja mobiililaitteiden Copilot AI -avustajatyökalun ansiosta. 

Microsoft sanoo, että se rajoittaa sitä, mitä LLM voi tehdä ja tekee käyttämällä useita suojauskerroksia Microsoft AI:n arkkitehtuurin kautta. Tasojen on tarkoitus pysäyttää kaksi päätyyppiä tekoälyjärjestelmiin kohdistuvia hyökkäyksiä, olipa kyse haitallisista kehotteista tai myrkytystä sisällöstä. 

Microsoft on kehittänyt Spotlighting-nimisen tekniikan, joka merkitsee ulkoiset tiedot erottaakseen ne laillisista ohjeista. Esimerkiksi huono sähköposti voi huijata tekoälyä paljastamaan arkaluontoisia tietoja käyttäjän sähköposteista, ja tämä järjestelmä voi auttaa tekoälyä erottamaan sen todellisista komennoista hidastamatta sitä. 

Ja se on erittäin hyödyllistä, kun otetaan huomioon, millainen Copilot pian on kaikkialla Outlookissa, suosittu sähköpostipalvelu. Microsoft on myös tietoinen uudenlaisesta Crescendo-nimisestä kyberhyökkäyksestä, joka voi manipuloida tekoälyjärjestelmiä, kuten Copilot, luomaan haitallista sisältöä. 

"Crescendon tapauksessa tiimimme tekivät ohjelmistopäivityksiä Microsoftin AI-tarjousten takana olevaan LLM-teknologiaan, mukaan lukien Copilot AI -avustajamme, vähentääkseen tämän monikäänteisen AI-suojakaiteen ohituksen vaikutusta", Microsoft lupaa. 

OpenAI, nouseva tekoälyyritys, jolla on mojovia taloudellinen tuki Microsoftilta, on myös rajoitettu tekoälyn käyttö poliittisissa kampanjoissa, sillä se pyrkii edistämään terveellisempää tekoälyn väärinkäyttöä. 

Jätä vastaus

Sähköpostiosoitettasi ei julkaista. Pakolliset kentät on merkitty *