Microsoft verspricht ein besseres Copilot-Erlebnis gegen Cyberangriffe
Microsoft wird von vielen oft als weltweit führend im Bereich der generativen KI angesehen
2 Minute. lesen
Veröffentlicht am
Teile diesen Artikel
Verbessern Sie diesen Leitfaden
Lesen Sie unsere Offenlegungsseite, um herauszufinden, wie Sie MSPoweruser dabei helfen können, das Redaktionsteam zu unterstützen Lesen Sie weiter
Wichtige Hinweise
- Der rasante Fortschritt der KI gibt Anlass zur Sorge hinsichtlich Missbrauch und Schwachstellen.
- Microsoft geht diese Probleme dann mit generativer KI wie LLMs an und bekämpft KI-Missbrauch.
- Das Redmonder Unternehmen nutzt Abwehrmaßnahmen wie Spotlighting, um sich vor Angriffen auf KI-Systeme zu schützen.
Künstliche Intelligenz (KI) ist die heißeste Technologie, die wir kommen sahen, und ihr rasanter Fortschritt kann gelegentlich beunruhigend sein. Einige sagten, wir wären es geht viel zu schnell voran Mit der KI und bei so wenig Zeit und dennoch so viel Fortschritt ist KI anfällig für Missbrauch und Schwachstellen.
Microsoft hat kürzlich umrissen sein Ansatz zur Lösung dieser Probleme mit generativer KI, insbesondere großen Sprachmodellen (LLMs). Der Redmonder Technologieriese wird dank des Copilot AI-Assistententools für Windows und Mobilgeräte oft als weltweit führend auf dem Markt für generative KI angesehen.
Microsoft sagt, dass es die Möglichkeiten und Möglichkeiten des LLM einschränkt, indem es mehrere Verteidigungsebenen durch die Microsoft AI-Architektur nutzt. Die Schichten sollen zwei Haupttypen von Angriffen auf KI-Systeme stoppen, unabhängig davon, ob es sich um böswillige Eingabeaufforderungen oder vergiftete Inhalte handelt.
Microsoft hat eine Technik namens Spotlighting entwickelt, die externe Daten markiert, um sie von legitimen Anweisungen zu unterscheiden. Beispielsweise könnte eine schlechte E-Mail die KI dazu verleiten, vertrauliche Informationen aus den E-Mails des Benutzers preiszugeben, und dieses System kann der KI dabei helfen, sie von echten Befehlen zu unterscheiden, ohne sie zu verlangsamen.
Und es ist äußerst hilfreich, wenn man bedenkt, wie Copilot bald sein wird überall in Outlook, der beliebte E-Mail-Dienst. Microsoft ist sich auch einer neuen Art von Cyberangriff namens Crescendo bewusst, der KI-Systeme wie Copilot manipulieren kann, um schädliche Inhalte zu erstellen.
„Im Fall von Crescendo haben unsere Teams Software-Updates an der LLM-Technologie hinter den KI-Angeboten von Microsoft vorgenommen, einschließlich unserer Copilot-KI-Assistenten, um die Auswirkungen dieser Umgehung der KI-Leitplanke mit mehreren Runden abzumildern“, verspricht Microsoft.
OpenAI, das aufstrebende KI-Unternehmen mit großem Erfolg finanzielle Unterstützung von Microsoft, hat auch begrenzt den Einsatz von KI für politische Kampagnen, da damit versucht wird, einen gesünderen und nicht missbrauchten Einsatz von KI zu fördern.
