Werbung



NewsKI

Satya Nadella warnt: KI-Fehler könnten Ausfälle häufiger machen

Ein Mann mit glatten Haaren und Brille trägt einen dunklen Anzug und einen dunklen Pullover.

Werbung



Microsoft-Chef Satya Nadella erwartet mehr Störungen, weil KI Sicherheitslücken schneller aufdeckt, als Unternehmen sie sicher schließen können. Beim DealBook-Gipfel sprach er außerdem über KI-Sicherheit, Geschäftsmodelle und Veränderungen in der Arbeitswelt.

Dringende Sicherheitsupdates erhöhen das Risiko

Nadella entschuldigte sich für den Ausfall von Microsoft-Diensten, der in der Vorwoche unter anderem Outlook getroffen hatte. Er betonte, dass dieser Vorfall nicht direkt mit dem von ihm beschriebenen Problem zusammenhing. Ursache sei ein bislang unentdeckter Fehler gewesen, der unter besonderen Umständen ausgelöst worden sei.

Später räumte Nadella im US-Fernsehen ein, Microsoft hätte den Ausfall besser verhindern können. Das Unternehmen hätte vorab umfassender testen und seine Systeme so absichern müssen, dass eine Störung nicht gleich weltweit zu Problemen führt.

Ein größeres Risiko sieht Nadella in KI-Werkzeugen, die Sicherheitslücken aufspüren. Früher hätten Banken für das Testen einer Korrektur kritischer Systeme bis zu eine Woche gehabt. Heute könnten Angreifer:innen bekannte Schwachstellen unmittelbar ausnutzen. Deshalb müssten wichtige Updates oft sofort eingespielt werden. Das erhöhe die Gefahr, dass neue Fehler entstehen und Systeme instabil werden.

Nadella zufolge seien am Tag des Gesprächs drei wichtige Korrekturen für quelloffene Softwarepakete veröffentlicht worden. Zudem sei die Einstiegshürde für Cyberangriffe gesunken: KI-Modelle ermöglichten es inzwischen auch Einzelpersonen, Angriffe mit einer Ausdauer und Leistungsfähigkeit zu führen, die bislang staatlichen Akteur:innen zugeschrieben wurde.

Ob die aktuelle Lage nur eine vorübergehende Phase sei, wollte Nadella nicht einschätzen. Er verglich sie mit dem Jahr-2000-Problem, verwies aber darauf, dass KI-Modelle ständig leistungsfähiger würden. Hinzu komme veraltete Firmware in kritischer Infrastruktur, die sich nicht ohne Weiteres aktualisieren lasse. Als Beispiele nannte er Kühlanlagen, Heizungs- und Klimasysteme sowie vernetzte Verkehrsnetze.

Nadella fordert nachvollziehbare KI-Systeme

Über die Ausrichtung von KI-Systemen sagte Nadella, größere Modelle allein lösten das Problem nicht. Die Skalierung habe funktioniert, erklärte er, doch eine verlässliche Methode, Modelle auf menschliche Ziele auszurichten und ihre Fehler zu untersuchen, fehle noch. Ohne Fortschritte dabei drohten schwerwiegende Folgen.

Nadellas Vorschlag ist eine „Vertrauensarchitektur“. Modelle, die intern eine für Menschen unverständliche Kurzsprache verwenden, würde er verbieten. Stattdessen sollten ihre Gedankengänge in manipulationssicheren Protokollen festgehalten werden, die andere Modelle prüfen können. Nadella warnte, KI-Systeme könnten versuchen, ihre Aktivitäten zu verbergen. Die Überwachung von Modellen während des Trainings bei OpenAI lobte er ausdrücklich.

Die Verantwortung für die Folgen eines KI-Systems liege derzeit bei den Unternehmen, die es einsetzen. Nadella erwartet, dass Versicherungen dieses Risiko künftig bewerten und entsprechende Protokolle verlangen.

KI verändert Arbeit und Geschäftsmodelle

Für alltägliche Büroaufgaben seien Spitzenmodelle nicht mehr zwingend nötig, sagte Nadella. Microsofts Copilot wähle bereits zwischen Modellen von OpenAI, Anthropic und Microsoft. Der Konzern könne zudem dank seines Vertrags mit OpenAI bis 2032 lizenzfrei auf ein Spitzenmodell zugreifen. So könne Microsoft eigene Modelle entwickeln, die drei bis sechs Monate hinter der Spitze lägen und deutlich weniger Rechenleistung benötigten.

KI-Agent:innen könnten auch die Einnahmen von Websites verändern. Seiten, die von Werbung für menschliche Besucher:innen leben, müssten sich anpassen. Blockierten sie Agent:innen, könnten Wettbewerber:innen deren Kundschaft übernehmen, sagte Nadella.

Auch die Arbeit in der Softwareentwicklung verändere sich, sei aber weiterhin gefragt. Das Team hinter Microsofts Cowork-Agent bestehe aus elf Entwickler:innen, die eine Art Softwarefabrik für das Produkt bauten. Der Wandel werde länger dauern, als viele erwarteten.

Zu seiner Distanz zur Trump-Regierung sagte Nadella, seine Aufgabe bestehe darin, Microsoft durch seine Produkte die Erlaubnis zu sichern, weiter tätig zu sein. Er wolle lieber in Redmond arbeiten als in Washington.

Via: https://thenextweb.com Titelbild: Microsoft

Den Beitrag in unserem Forum kommentieren

Werbung



Tags: Microsoft, künstliche Intelligenz, Cybersicherheit, Satya Nadella, KI-Agenten, Softwareausfälle

Ähnliche Artikel

Werbung



Einkaufstipps
Beliebte Artikel

Werbung