Microsoft julkistaa "PyRIT"-työkalupakin, joka auttaa suojaamaan generatiivisia tekoälyjärjestelmiä

Lukuajan kuvake 2 min. lukea


Lukijat auttavat tukemaan MSpoweruseria. Saatamme saada palkkion, jos ostat linkkien kautta. Työkaluvihje-kuvake

Lue ilmoitussivumme saadaksesi selville, kuinka voit auttaa MSPoweruseria ylläpitämään toimitustiimiä Lue lisää

Keskeiset huomautukset

  • Ohjelmistojätti esittelee avoimen lähdekoodin kehyksen, jonka avulla tietoturva-ammattilaiset voivat paikantaa ennakoivasti tekoälymallien haavoittuvuuksia.

Microsoft Pyrit

Microsoft tänään ilmoitti julkistettiin PyRIT (Python Risk Identification Toolkit), avoimen lähdekoodin automaatiokehys, joka antaa tietoturvatiimeille mahdollisuuden tunnistaa riskejä generatiivisissa tekoälyjärjestelmissä. Muutos korostaa Microsoftin syvää sitoutumista vastuulliseen tekoälykehitykseen ja turvallisten työkalujen rakentamiseen nopeasti kasvavaa luovaa tekoälymaailmaa varten.

AI Red Teaming Automation: välttämättömyys

Red teaming eli hyökkäysten simulointi puolustusten testaamiseksi on ratkaisevan tärkeää generatiiviselle tekoälylle. Nämä järjestelmät ovat kuitenkin monimutkaisia, ja niissä on useita vikapisteitä, toisin kuin perinteiset ohjelmistot. Microsoftin laaja kokemus tekoälyn punaisesta tiimityöstä johti PyRIT:n luomiseen, joka vastaa generatiivisen tekoälyn asettamiin ainutlaatuisiin haasteisiin.

"Vaikka automaatio ei voi täysin korvata ihmisten punaisia ​​​​tiimejä, se on välttämätöntä ponnistelujen skaalauttamiseksi ja syvempää tutkimusta vaativien alueiden korostamiseksi", Microsoft totesi.

PyRIT: Tärkeimmät ominaisuudet ja edut

  • sopeutumiskyky: Toimii useiden generatiivisten AI-mallien kanssa ja voidaan laajentaa tukemaan uusia syöttötyyppejä (esim. kuvat, video).
  • Riskipainotteiset tietojoukot: Mahdollistaa sekä tietoturvaongelmien että mahdollisten harhojen tai epätarkkuuksien testaamisen.
  • Joustava pisteytysmoottori: Mahdollistaa tekoälytulosten pisteytyksen koneoppimisen tai suorien LLM:ien avulla itsetestausta varten.
  • Usean käännöksen hyökkäysstrategiat: Simuloi realistisempia, pysyviä hyökkäyksiä perusteellista testausta varten.
  • Muistin kapasiteetti: Helpottaa analysointia ja mahdollistaa pidemmän, monimutkaisemman vuorovaikutuksen.

Toimialan laajuinen vaikutus

PyRIT:n julkaisun on määrä tehdä aaltoja tekoälyn tietoturvateollisuudessa. Microsoft kannustaa organisaatioita eri sektoreilla hyödyntämään PyrITiä luovissa tekoälyn tietoturvatoimissaan. Yritys kutsuu myös yhteistyöhön ja korostaa, että yhteiset ponnistelut ovat ratkaisevan tärkeitä luotaessa vankkaa puolustuskeinoa uusia tekoälyriskejä vastaan.

On tärkeää huomata, että PyRIT ei korvaa generatiivisten tekoälyjärjestelmien manuaalista punaista yhdistämistä. Sen sijaan se lisää tekoälyn punatiimin olemassa olevaa toimialueosaamista ja automatisoi heidän työläitä tehtäviä. 

Voit aloittaa PyRIT-projektin tätä

Lisää aiheista: Tekoälyn turvallisuus, generatiivinen tekoäly, microsoft, avoimen lähdekoodin, PyRIT, Punainen joukkue