OpenAI sagt, es trainiere das nächste Frontier-Modell, laut einem Pressemitteilung vom Dienstagund erwartet, dass das Startup dadurch künstlichen Intelligenzsystemen, die generell intelligenter sind als Menschen, einen Schritt näher kommt. Das Unternehmen kündigte außerdem die Einrichtung eines neuen Sicherheitsausschusses an, der wichtige Sicherheitsentscheidungen leiten soll und von CEO Sam Altman und anderen Vorstandsmitgliedern von OpenAI geleitet wird.
„Wir sind stolz darauf, Modelle zu entwickeln und zu veröffentlichen, die sowohl hinsichtlich ihrer Leistungsfähigkeit als auch ihrer Sicherheit branchenführend sind“, sagte OpenAI in einer Pressemitteilung. „Wir begrüßen jedoch eine lebhafte Debatte in diesem wichtigen Moment.“
Die Ankündigung folgt auf einen turbulenten Monat für OpenAI, in dem eine von Ilya Sutskever und Jan Leike geleitete Gruppe, die erforschte, KI-Risiken für die Menschheit wurden aufgelöst. Die ehemaligen Vorstandsmitglieder von OpenAI Helen Toner und Tasha McCauley schrieben am Sonntag im Economist über diese und andere Entwicklungen nach Altmans Rückkehr .“verheißt nichts Gutes für das OpenAI-Experiment in der Selbstverwaltung.“ In den letzten Monaten verließen auch mehrere Mitarbeiter das Unternehmen aus Sicherheitsgründen, viele dazu riefen zu einer stärkeren Aufmerksamkeit für die Gefahren von KI-Systemen auf.
Diese neue Gruppe scheint OpenAIs Versuch zu sein, diese Ängste auszuräumen. Die erste Aufgabe der Gruppe wird darin bestehen, die Prozesse und Sicherheitsvorkehrungen von OpenAI in den nächsten 90 Tagen zu bewerten. Die Aufnahme von Altman in diese Gruppe wird die Kritiker von OpenAI jedoch kaum besänftigen. Toner und McCauley schreiben, dass hochrangige Führungskräfte ihnen erzählt hätten, Altman habe bei OpenAI „eine giftige Kultur der Lüge“ kultiviert. Erst letzte Woche Scarlett Johansson schien Altmans Vertrauenswürdigkeit in Frage zu stellen als das Unternehmen eine Stimme kreierte, die genau wie sie klang.
Altman, Vorsitzender Bret Taylor und die Vorstandsmitglieder Adam D’Angelo und Nicole Seligman werden den Sicherheitsausschuss leiten. Der neue Chefwissenschaftler des Unternehmens, Jakub Pachocki, wird neben den Abteilungsleitern Matt Knight, John Sculman, Lilian Weng und Aleksander Madry ebenfalls im Ausschuss sitzen. Die Gruppe wird sich außerdem mit externen Experten beraten und dem größeren OpenAI-Vorstand Empfehlungen zu Sicherheitsverfahren geben.
Im Mai hat das Unternehmen außerdem veröffentlicht GPT-4 Omni, das eine neue Grenze in der menschlichen Interaktion mit KI-Modellen demonstrierte. Dieses Modell schockierte viele in der KI-Community mit seinen multimodalen Interaktionen in Echtzeit, und es scheint , dass OpenAI bereits mit der Ausbildung des nächsten Modells vorangeht. Altmans Start-up steht unter dem Druck, mit Google zu konkurrieren um Gewinnen Sie eine KI-Chatbot-Partnerschaft mit Apple, von sich weit erwartet wird die Enthüllung im Juni Die WWDC. Die Partnerschaft könnte einer der wichtigsten Geschäftsabschlüsse im Technologiebereich sein.
Das neue Sicherheitsteam von OpenAI besteht jedoch größtenteils aus Vorstandsmitgliedern, die nach Altmans Rückkehr zu OpenAI hinzugekommen sind, sowie aus neuen Abteilungsleitern, denen aufgrund ihrer jüngsten Abgänge mehr Macht verliehen wurde. Die neue Sicherheitsgruppe ist ein kleiner Schritt zur Lösung der Sicherheitsbedenken, die OpenAI plagen, aber die Ansammlung von Insidern scheint nicht auszureichen, um diese Sorgen zum Schweigen zu bringen.
