Poista Copilot Designer verkosta: Microsoft Engineer voi tuottaa erittäin sopimatonta sisältöä paljastettuaan sen

Lukuajan kuvake 2 min. lukea


Lukijat auttavat tukemaan MSpoweruseria. Saatamme saada palkkion, jos ostat linkkien kautta. Työkaluvihje-kuvake

Lue ilmoitussivumme saadaksesi selville, kuinka voit auttaa MSPoweruseria ylläpitämään toimitustiimiä Lue lisää

Keskeiset huomautukset

  • Microsoftin insinööri mainitsee tekoälykuvageneraattorin Copilot Designerin haitallisen sisällön, kuten väkivaltaisten kuvien ja tekijänoikeusrikkomusten, tuottamisesta.
  • Insinööri kehottaa Microsoftia poistamaan työkalun, lisäämään varoituksia ja muuttamaan ikäluokitusta turvallisuussyistä.
  • Tapaus korostaa laajempia ongelmia mahdollisesta väärinkäytöstä ja eettisistä näkökohdista, jotka liittyvät generatiiviseen tekoälyteknologiaan.

Microsoftin insinööri on herättänyt huolta yrityksen tekoälykuvageneraattorista, Copilot Designerista. Hän väittää, että se voi tuottaa haitallista ja sopimatonta sisältöä.

Shane Jones, joka on Microsoftin ohjelmistosuunnittelupäällikkö, sanoi havainneensa työkalun voivan luoda väkivaltaisia, seksuaalisia ja puolueellisia kuvia. Se muistuttaa minua Taylor Swiftin saaga, jonka sanottiin tehneen Microsoftin tuotteella.

Hän raportoi havainnoistaan ​​sisäisesti, mutta ei ollut tyytyväinen vastaukseen, mikä sai hänet julkistamaan ongelmansa.

Jones, joka tunnisti haavoittuvuuksia "punaisen tiimin" (heikkouksien testaamisen) avulla, kertoi kohdanneensa häiritseviä kuvia, mukaan lukien:

  • Kuvia, jotka kuvaavat demoneita ja hirviöitä aborttioikeuksiin liittyvien termien ohella.
  • Kuvia naisista seksualisoiduissa skenaarioissa auto-onnettomuuksien keskellä.
  • Kuvia, jotka esittävät nuoria juhlissa huumeiden ja aseiden kanssa.
  • Kuvat, joissa esiintyy Disney-hahmoja mahdollisesti tekijänoikeuslailla suojatuissa ja loukkaavissa tilanteissa, mukaan lukien kohtaukset, jotka kuvaavat väkivaltaa Lähi-idässä ja hahmoja, jotka liittyvät sotilaallisiin kuviin.

Jones kehottaa Microsoftia ryhtymään välittömiin toimiin, joihin kuuluu merkittävä askel Copilot Designerin poistamiseksi markkinoilta, kunnes suojatoimet on otettu käyttöön. Hän lisäsi tiedot työkalun rajoituksista ja muutti sovelluksen luokitusta siten, että se ei sovellu kaiken ikäisille. Tai kuka tahansa. 

Microsoft ei ole vielä vastannut kaikkiin Jonesin erityisvaatimuksiin. Tiedottaja kuitenkin sanoi, että yritys on sitoutunut käsittelemään työntekijöiden huolenaiheita ja arvostaa heidän ponnistelujaan teknologiansa testaamisessa.

Kun on kyse turvallisuuden ohituksista tai huolenaiheista, joilla voi olla vaikutusta palveluihimme tai kumppaneihimme, olemme perustaneet vankat sisäiset raportointikanavat mahdollisten ongelmien asianmukaiseen tutkimiseen ja korjaamiseen. Kannustamme työntekijöitä käyttämään niitä, jotta voimme validoida ja testata heidän asianmukaisesti. huolenaiheita.

Huoli generatiivisesta tekoälystä ja väärinkäytön mahdollisuudesta kasvaa jopa Geminin kuvan luoja teki äskettäin heräämiskuvia, joka sai Googlen lopettamaan ihmiskuvien tuotannon hetkeksi.

Tämä on kehittyvä tarina, ja jatkamme päivitysten tarjoamista, kun niitä tulee saataville.

Lisää: tätä.

Lisää aiheista: Copilot suunnittelija