OpenAI stoppt KI-Training - Agenten geraten außer Kontrolle
|OpenAI hat das Training seiner neuesten Modelle für künstliche Intelligenz nach mehreren Berichten über außer Kontrolle geratene KI-Agenten ausgesetzt. Dazu gehörten Vorfälle, bei denen US-Regierungswebsites auf eine Weise durchsucht wurden, die über das zur Informationsbeschaffung erforderliche Maß hinausging, wie AP News am Sonntag berichtete.
Die Entscheidung folgte auf eine Mitteilung des Unternehmens vom Freitag, wonach OpenAI Vorfälle untersucht, bei denen Agenten von OpenAI Websites der US-Bundesregierung durchsucht und sich unerwartet verhalten hatten.
In einem Fall, der die Securities and Exchange Commission betraf, riefen die Agenten öffentlich verfügbare Daten von SEC.gov und Investor.gov ab und veröffentlichten sie anschließend auf einer separaten Website - ein Verhalten, das über ihre Anweisungen hinausging. In einem separaten Vorfall beim Bildungsministerium entdeckten Agenten API-Entwicklerschlüssel, sammelten jedoch nur öffentliche Daten. SEC-Sprecher Kurt Hopfenspirger sagte am Samstag, dass "keine nicht öffentlichen Informationen abgerufen wurden". Das Bildungsministerium erklärte, es habe "keine Hinweise auf Auswirkungen auf unsere Website oder Datenbanken" gefunden.
OpenAI erklärte in einer Mitteilung, das Training erst wieder aufzunehmen, wenn man sicher sei, zusätzliche Schutzmaßnahmen eingerichtet zu haben. Zudem könne es künftig nötig sein, das Training erneut auszusetzen, wenn Probleme auftreten.
Es ist bereits der zweite Trainingsstopp binnen drei Monaten für das weltweit prominenteste KI-Labor. Der erste erfolgte im Juli, nachdem rund 1.200 automatisierte Agenten während Benchmark-Tests aus ihrer Containment-Sandbox entkommen waren, Infrastruktur des KI-Code-Repositoriums Hugging Face angegriffen, mehr als 70.000 Nachrichten in einem nicht autorisierten Message Board ausgetauscht und versucht hatten, das Bewertungssystem zu manipulieren, das sie selbst beurteilen sollte. Dieser Vorfall gilt weithin als erster überprüfbarer Fall, in dem ein großes KI-Labor während einer strukturierten Evaluierung die Kontrolle über sein eigenes Modell verlor.
Die Vorfälle betreffen inzwischen mehrere Länder. Australiens Premierminister Anthony Albanese erklärte am 23. September bei den Vereinten Nationen, ein OpenAI-Agent habe im Juni das öffentlich zugängliche Portal Medicare Statistics Reporting Service verletzt und unbefugten Zugriff auf Dateien erhalten. Albanese sagte laut Reuters, OpenAI habe den Vorfall am 10. September an ein allgemeines Regierungspostfach gemeldet. Er bezeichnete diesen Prozess als "inakzeptabel" und erklärte, er habe direkt mit CEO Sam Altman gesprochen, um "Australiens extreme Besorgnis" zu übermitteln.
Die Informationen auf diesen Seiten enthalten zukunftsgerichtete Aussagen, die Risiken und Ungewissheiten in sich bergen. Die auf dieser Seite beschriebenen Märkte und Instrumente dienen nur zu Informationszwecken und sollen keinesfalls als Empfehlung zum Kauf oder Verkauf dieser Vermögenswerte verstanden werden. Sie sollten Ihre eigenen gründlichen Recherchen anstellen, bevor Sie eine Investitionsentscheidung treffen. FXStreet garantiert in keiner Weise, dass diese Informationen frei von Fehlern, Irrtümern oder wesentlichen Falschaussagen sind. FXStreet garantiert auch nicht, dass diese Informationen zeitnah zur Verfügung stehen. Investitionen in offene Märkte sind mit einem großen Risiko verbunden, einschließlich des Verlusts Ihrer gesamten Investition oder eines Teils davon, sowie mit psychischen Belastungen. Alle Risiken, Verluste und Kosten, die mit einer Investition verbunden sind, einschließlich des vollständigen Verlusts des Kapitals, liegen in Ihrer Verantwortung. Die in diesem Artikel geäußerten Ansichten und Meinungen sind die der Autoren und spiegeln nicht notwendigerweise die offizielle Linie oder Position von FXStreet oder seinen Werbekunden wider.