Ehemalige Mitarbeiter äußern Sicherheitsbedenken bei OpenAI

Der Angstfaktor in OpenAI

Letzte Woche hoben sich in der Tech-Welt die Augenbrauen, als Ilya Sutskever, Mitbegründer von OpenAI, der kurzzeitig eine Rebellion gegen Sam Altman anführte, als Chefwissenschaftler zurücktrat. Einige Beobachter spielten die Bedeutung des Abgangs herunter und stellten fest, dass Sutskever seit Monaten nicht mehr im Amt gewesen sei und dass er das Amt offenbar im Einvernehmen verlassen habe.

Aber Kontroverse Kommentare Ein anderer ausscheidender Manager stellte die Frage, ob das Unternehmen, einer der führenden Entwickler von Tools für künstliche Intelligenz, in puncto Sicherheit zu lax sei.

„Sicherheitskultur und -prozesse sind glänzenden Produkten gewichen.“ Jan Seeder letzte Woche von OpenAI zurückgetreten ist, schrieb im Social-Media-Netzwerk

Sagte Sutskever herein Sein Abschiedsbrief Er war zuversichtlich, dass OpenAI künstliche allgemeine Intelligenz schaffen würde – künstliche Intelligenz, die so ausgefeilt ist wie das menschliche Gehirn –, die für die Menschheit „sicher und nützlich“ sein würde. Aber so wie es war Viel wichtiger:

In den letzten Monaten segelte mein Team gegen den Wind. Manchmal hatten wir Schwierigkeiten mit der Berechnung, und die Fertigstellung dieser wichtigen Recherche wurde immer schwieriger.

Leike sprach im Namen vieler OpenAI-Mitarbeiter, für die Sicherheit an erster Stelle steht. Laut Fox. „Ich verlor nach und nach das Vertrauen in die Führung von OpenAI und ihre Fähigkeit, verantwortungsvoll mit AGI umzugehen, also bin ich zurückgetreten“, sagte einer der ehemaligen Mitarbeiter, Daniel Kokotaglo, der Online-Publikation. (Diese Ängste waren der Grund Sutskever drängte letztes Jahr den Vorstand von OpenAI, Altman als CEO zu verdrängen, obwohl Sutskever später sagte, er bereue den Schritt.)

Vox berichtet, dass diese Mitarbeiter besorgt waren, dass OpenAI schnell fortschrittlichere Technologien auf den Markt bringen würde – und dass Altman Geld von autoritären Regimen wie Saudi-Arabien sammeln würde, um ein KI-Chip-Projekt zu bauen.

Ein weiteres Problem sind die Richtlinien von OpenAI für ausscheidende Mitarbeiter. Was beinhaltet Bedingungen der Geheimhaltung und Nichtverunglimpfung. Demnach laufen ehemalige Arbeitnehmer Gefahr, einen von ihnen zu verlieren bereits erteilt Gerechtigkeit, wenn sie sprechen.

Nach einem Aufruhr in den sozialen Medien schrieb Altman auf X “Es war peinlich” Durch die Artikel. Das Unternehmen streiche diese Formulierung aus den Ausstiegsdokumenten, sagte er und fügte hinzu, dass es die unverfallbaren Aktien nie vollständig annulliert habe.

Altman und OpenAI-Präsident Greg Brockman versuchten, Bedenken auszuräumen. „Wir glauben daran, enorme Fortschritte zu erzielen und daran zu arbeiten, erhebliche Risiken zu mindern. Wir nehmen unsere Rolle hier ernst und wägen die Reaktionen auf unsere Maßnahmen sorgfältig ab.“ Geschrieben am X am Ende dieser Woche.

Jede Wahrnehmung von Sicherheit, die in OpenAI ignoriert wird, könnte zu einem Problem werden. Die Investoren des Unternehmens, darunter auch Microsoft, haben sich letztes Jahr im Fall von Sutskever offenbar auf die Seite von Altman gestellt und seine Wiederernennung zum CEO unterstützt.

Aber die Vorstellung, dass OpenAI bei allen Bedrohungen, die seine Produkte darstellen könnten, unbekümmert ist, könnte zu einer strengeren Regulierung führen – und ein ernsthaftes Handicap im Wettlauf des Unternehmens mit der Konkurrenz darstellen.

Folgendes passiert

Der Tod des iranischen Präsidenten sorgt für Unsicherheit im Nahen Osten. Ebrahim Raisi und der iranische Außenminister Hossein Amir Abdollahian Er starb am Sonntag bei einem Hubschrauberabsturz. Der Tod von Raisi – bekannt als Hardliner und potenzieller Nachfolger des obersten Führers des Landes – erfolgt Wochen, nachdem Iran und Israel sich einem offenen Konflikt angenähert haben und Teheran mit Fragen zum Status seines Atomprogramms konfrontiert ist.

Die Vereinigten Staaten und Europa stehen kurz davor, russische Vermögenswerte zur Finanzierung der Ukraine zu nutzen. Finanzministerin Janet Yellen sagte der Times, dass westliche Beamte Möglichkeiten erwägen, Kiew zu helfen, einschließlich der Herausgabe einer Absichtserklärung. Ein durch Gewinn und Zinsen besichertes Darlehen Verbunden mit russischen Vermögenswerten im Wert von 300 Milliarden US-Dollar in Europa. Diskussionen über einen solchen Schritt kommen zu einer Zeit, in der die Vereinigten Staaten und Europa nach Möglichkeiten suchen, die bedrängten ukrainischen Streitkräfte zu stärken.

Der Betrugsprozess gegen den Ozy-Gründer beginnt am Montag. Carlos Watson, der sich als wegweisender Medienunternehmer darstellen wollte, Ihm drohen mehrere Anklagen Betrug von Investoren durch falsche Darstellung der Finanzergebnisse, der Finanzierung und öffentlicher Informationen des Unternehmens. (Ihm wird vorgeworfen, dies einem Leutnant befohlen zu haben Nachahmung als Führungskraft um die Investition zu sichern.) Watsons Anwälte sagten, er habe sich an der gleichen Art von „geschwollen„Und das haben andere Verlage wie BuzzFeed getan.

Gewinnen die Banken im Kapitalkampf die Oberhand?

Seit letztem Sommer haben die größten Banken in den Vereinigten Staaten eine umfangreiche Kampagne gestartet – darunter a Eine „beispiellose“ Fernsehwerbekampagne – Lockerung einer Reihe vorgeschlagener Kapitalregeln, die ihrer Meinung nach die Kreditvergabe behindern und der Wirtschaft schaden werden.

Diese Bemühungen scheinen erfolgreich zu sein, was darauf hindeutet, dass Banken bei den Aufsichtsbehörden zunehmend an Einfluss gewinnen. Diese Veränderung der Dynamik mit Washington voranzutreiben ist… Jamie Dimon von JPMorgan Chaseso das Wall Street Journal.

was ist passiert: Die an der Ausarbeitung des sogenannten „Endspiel Basel IIIDie Vorschläge – der Federal Reserve, der Federal Deposit Insurance Corporation und des Office of the Comptroller of the Currency – sollen der Einführung weniger strenger Kapitalanforderungen für Banken nahe kommen. Das Mandat sieht vor, dass große Kreditgeber einen Kapitalbetrag halten, der deutlich unter den im letzten Sommer eingeführten 20 Prozent liegt, berichtete die Zeitung und fügte hinzu, dass einige Aspekte des Deals noch verhandelt würden.

Die Regeln werden Gilt für die größten GroßbankenDiejenigen mit einem Vermögen von 100 Milliarden US-Dollar oder mehr. Aufsichtsbehörden und einige fortschrittliche Gesetzgeber, darunter die Demokratin von Massachusetts, Senatorin Elizabeth Warren, haben argumentiert, dass ein strengeres Mandat den Banken ausreichend Schutz vor finanziellen Schocks bieten und dazu beitragen würde, eine weitere Bankenkrise zu verhindern.

Damon hat diese Logik wiederholt in Frage gestelltauch in Bloomberg-Interview Freitag in Paris. Laut The Journal spielte er auch hinter den Kulissen eine große Rolle bei der Abschwächung der Maßnahme, unter anderem durch die Koordinierung der Lobbybemühungen.

In einer besonders effektiven Strategie wies Dimon Berichten zufolge seine Bankkollegen an, sich um Michael Barr zu scharen, den Fed-Beamten, der maßgeblich an der Ausarbeitung des ursprünglichen Plans beteiligt war, berichtete das Journal. Führungskräfte sollten sich stattdessen direkt an die Fed-Gouverneure und Jay Powell, den Vorsitzenden der Zentralbank, wenden.

Der reduzierte Vorschlag könnte ein großer Sieg für die Banken sein. Seit letztem Monat sind die Banken stillgelegt worden Mehr als 180 Milliarden US-Dollar zur Erfüllung erhöhter KapitalstandardsLaut der Financial Times. Diese Reserven werden wahrscheinlich in andere Bereiche ihres Geschäfts zurückgepumpt oder für den Rückkauf von Aktien verwendet Wenn Das Kapitalpolster verringerte sich.

Der Gewerkschaftskampf geht weiter

Bahnbrechende Gewerkschaftsinitiative in Alabama Auf Grund gelaufen am Freitag, was Fragen zu den Bemühungen der organisierten Arbeiterschaft aufwirft, ihre Vertretung in den Vereinigten Staaten auszuweiten. Doch am Samstag gewann die Bewegung in Kalifornien Ein durchschlagender Sieg Im Disneyland.

Mickey, Minnie und Goofy werden den Gewerkschaften beitreten. Eine Mehrheit der fast 1.700 Künstler, die in Disneyland beliebte Zeichentrickfiguren spielen, hat für den Beitritt zur Actors’ Equity Association gestimmt, die mehr als 51.000 Schauspieler im ganzen Land vertritt.

Die Organisatoren haben sich für Lohnerhöhungen sowie Sicherheits- und Terminverbesserungen im Disneyland Resort eingesetzt.

Aber die gescheiterte Abstimmung in den Mercedes-Benz-Werken in Alabama könnte noch bedeutsamer sein. Bei dieser Abstimmung stand viel auf dem Spiel: Die Arbeiter eines Volkswagen-Werks in Tennessee stimmten letzten Monat für den Beitritt zur UAW und halfen der Gewerkschaft, die größtenteils nicht gewerkschaftlich organisierten Fabriken im Süden aufzulösen, die sich schon lange gewerkschaftlich organisieren wollten.

Dieser Sieg scheint ein Weckruf für die gewerkschaftsfeindlichen Kräfte gewesen zu sein. Anscheinend Lehren daraus ziehen Fehler der Tennessee-Politikerstarteten Beamte Alabamas eine aggressive Kampagne, darunter Gouverneur Kay Ivey, der andere Gouverneure des Südens aufforderte, die Abstimmung zu verurteilen.

Um den Einfluss zu erhöhen, rekrutierten gewerkschaftsfeindliche Aktivisten Nick Saban, den überaus beliebten Football-Trainer der University of Alabama, um sich mit Arbeitern zu treffen, um sie davon abzubringen. (Saban Besitzt zwei Mercedes-Händler.)

Gewerkschaftsführer versprachen jedoch, den Kampf im Süden fortzusetzen. Shawn Fine, Präsident der UAW, sagte am Freitag nach der Mercedes-Abstimmung, dass die Arbeiter weiterhin Gewerkschaften wollen. „Ich denke, sie wollen Gerechtigkeit, und wir werden weiterhin tun, was wir können“, sagte er.

Einige Arbeitsexperten sagen, dass die Abstimmung in Alabama einen vorübergehenden Rückschlag darstellt. „Das bedeutet, dass sie weniger Vertrauen in die nächste Fabrik haben werden“, sagte Arthur Wheaton, Direktor für Arbeitsstudien an der School of Industrial and Labor Relations der Cornell University, gegenüber der Times. „Die UAW ist langfristig dabei.“

nächste Woche

Technologie- und Einzelhandelsgewinne, der G7-Gipfel und das Fed-Protokoll werden im Rampenlicht stehen. Hier erfahren Sie, was Sie sehen sollten.

Dienstag: Lowe’s, Macy’s und Amer Sports berichten über Ergebnisse. Die jährliche Entwicklerkonferenz von Microsoft konzentriert sich zunehmend darauf, wie der Softwareriese dies vorhat Integration generativer künstlicher Intelligenz Bei Computern

Mittwoch: Die Anleger werden Nvidia bei der Veröffentlichung seiner neuesten vierteljährlichen Gewinnmitteilung aufmerksam beobachten, wobei die Erwartungen sehr hoch sind, dass der KI-Boom weiterhin für ein starkes Gewinnwachstum sorgt.

An anderer Stelle wird die Fed das Protokoll ihrer geldpolitischen Sitzung am 1. Mai veröffentlichen, das weitere Hinweise auf die Zinsaussichten der Zentralbank liefern könnte.

Donnerstag: In Italien ist ein Treffen der G7-Finanzminister und Zentralbankgouverneure geplant Dreitägige Konferenz. Ganz oben auf der Tagesordnung steht die Lage des Welthandels inmitten des Handelskrieges zwischen Washington und Peking.

schnelle Lektüre

Angebote

Politik

• Peking plant es Importuntersuchung Thermoplaste werden in der Europäischen Union, den Vereinigten Staaten und anderen Regionen in großem Umfang eingesetzt, offensichtlich als Vergeltung für westliche Handelshemmnisse. (Fuß)

• Warum Gouverneur Doug Burgum, ein Republikaner aus North Dakota und ein wohlhabender ehemaliger Geschäftsmann, steht auf Donald Trumps engerer Wahl für den Präsidentschaftskandidaten. (Wallstreet Journal)

Besser als der Rest

• Bruce Nordstrom, der dazu beigetragen hatte, die regionale Kaufhauskette seiner Familie in einen Kaufhausriesen zu verwandeln, starb am Samstag. Er war 90 Jahre alt. (Die New York Times)

• Ein genauerer Blick darauf Greg Peters, der Co-CEO von Netflix, der die gemeinsame Nutzung von Passwörtern als wichtige Einnahmequelle für den Streaming-Riesen beworben und dafür geworben hat. (Bloomberg Businessweek)

• Roboter mit durch künstliche Intelligenz geschaffener Kunst stellen mittlerweile die Mehrheit dar Geteilter Umsatz mit DeviantArt-Künstlern, ein Online-Forum. (Schiefer)

• “Wie Für immer leben(New-Yorker)

Wir würden uns über Ihr Feedback freuen! Bitte senden Sie Ihre Ideen und Vorschläge per E-Mail an dealbook@nytimes.com.