OpenAI hat mit der Vorbereitung eines neuen fortschrittlichen KI-Modells begonnen und einen Sicherheits- und Verteidigungsausschuss gebildet, der sich auf die Weiterentwicklung von Fähigkeiten in Richtung künstlicher allgemeiner Intelligenz (AGI) konzentriert.
Neues KI-Modell
OpenAI Intentions
Das Forschungsunternehmen OpenAI hat mit dem Training des nächsten Flaggschiffmodells der künstlichen Intelligenz begonnen zielt darauf ab, ein neues Leistungsniveau auf dem Weg zur Schaffung künstlicher allgemeiner Intelligenz (AGI) zu erreichen. Gleichzeitig bildeten sie einen Sicherheitsausschuss, um eine ordnungsgemäße Überwachung und Verwaltung der Projekte sicherzustellen.
Aufgaben des Ausschusses
Der neu geschaffene Sicherheits- und Schutzausschuss wird Empfehlungen abgeben das OpenAI Board zu Risikofragen und Sicherheit ihrer Projekte im Bereich der künstlichen Intelligenz. Die Hauptaufgabe des Ausschusses besteht darin, die Prozesse und Schutzmaßnahmen des Unternehmens in den nächsten 90 Tagen zu bewerten und zu verbessern. Am Ende dieses Zeitraums müssen sie ihre Erkenntnisse und Empfehlungen dem Vorstand mitteilen, und OpenAI wird die getroffenen Entscheidungen öffentlich bekannt geben.
Zusammensetzung des Ausschusses
Der Ausschuss wird von den Direktoren Bret Taylor, Adam D' geleitet. Angelo, Nicole Seligman und CEO und Mitbegründer Sam Altman. In die Zusammensetzung werden auch technische und politische Experten des Unternehmens einbezogen, darunter Jakub Pakhotsky, der Ilya Sutzkever als Chief Scientific Officer ablöste. Darüber hinaus wird sich der Ausschuss mit anderen externen Sicherheitsexperten beraten.
Voraussetzungen für die Änderungen
Diese Schritte von OpenAI erfolgen vor dem Hintergrund der letztjährigen Ereignisse rund um die Unternehmensführung. Im November 2023 wurde Sam Altman aufgrund von Problemen mit der Offenheit in der Kommunikation mit dem Vorstand vorübergehend als CEO suspendiert. Der wahre Grund war laut Medien jedoch die Meinungsverschiedenheit zwischen Altman und Ilya Sutskever über Prioritäten: Sicherheit oder die Förderung neuer Technologien.
Glossar
- OpenAI ist ein führendes Forschungsunternehmen für künstliche Intelligenz, das für seine innovativen Modelle wie ChatGPT bekannt ist.
- Künstliche Allgemeine Intelligenz (AGI) ist ein hypothetisches Konzept künstlicher Intelligenz, die jede intellektuelle Aufgabe auf oder über menschlicher Ebene ausführen kann.
- Ilya Sutzkever ist ein ehemaliger Chefwissenschaftler von OpenAI, der für seinen Schwerpunkt auf der Sicherheit künstlicher Intelligenz bekannt ist.
- Sam Altman ist der CEO und Mitbegründer von OpenAI.
Link
- OpenAI: Safety and Security Committee
- Das Wall Street Journal: Ilya Sutzkever, das OpenAI-Genie, das Sam Altman von seiner Entlassung erzählte
Antworten auf Fragen
Welche neue Initiative startet OpenAI?
Welche Aufgaben wird das neue OpenAI Safety and Security Committee wahrnehmen?
Wer wird den Vorsitz im neuen OpenAI Safety and Security Committee übernehmen?
Warum hat OpenAI ein Sicherheitskomitee eingerichtet?
Welche Probleme gingen der Gründung des Safety and Security Committee in OpenAI voraus?
Hashtags
Den Link zu diesem Artikel speichern
Diskussion über das Thema – OpenAI bereitet ein revolutionäres KI-Modell auf dem Weg zu AGI vor
OpenAI hat mit dem Training des nächsten leistungsstarken KI-Modells begonnen und ein Sicherheitskomitee eingerichtet, um die Entwicklung hin zu künstlicher allgemeiner Intelligenz (AGI) voranzutreiben. Trotz der Auflösung des langfristigen KI-Risikoteams ist das Unternehmen bestrebt, die KI auf die nächste Stufe zu heben.
Letzte Kommentare
8 Kommentare
Kommentar schreiben
Ihre E-Mail Adresse wird nicht veröffentlicht. Erforderliche Felder sind angekreuzt *
Ева
Es wird interessant sein zu sehen, wie OpenAI mit den neuen Herausforderungen im Bereich KI umgeht. 🤔 Ich hoffe, dass sie bei ihrer Arbeit am neuen Modell offener und transparenter sein werden.
Юрій
Natürlich ist die Entwicklung von AGI ein spannender Weg, aber ich mache mir Sorgen um Sicherheit und Ethik. 🧐 Wie kann sichergestellt werden, dass das neue Modell nicht für böswillige Zwecke verwendet wird? Verfügt OpenAI über angemessene Kontrollen?
Марта
Ich frage mich, ob das neue OpenAI-Modell in der Lage sein wird, komplexe menschliche Emotionen und Zusammenhänge zu verstehen? 🤔 Das ist ein zentrales Problem auf dem Weg zur AGI. Wird sie beispielsweise in der Lage sein, Sarkasmus oder Subtext in der Kommunikation zu erkennen?
Оскар
Ich würde gerne mehr Details darüber erfahren, wie sie das neue Modell sichern und kontrollieren wollen. 😕 Werden bestimmte Einschränkungen oder Nutzungsregeln gelten? Dies ist sehr wichtig für das Vertrauen der Öffentlichkeit.
Зиґмунт
Und sind diese neumodischen Dinge wirklich nützlich? 😒 Anstatt Energie für AGI zu verschwenden, wäre es besser, bestehende Technologien zu verbessern, die den Menschen bereits zugute kommen. Ich glaube nicht an diese Fantasien über Superintelligenz.
Ева
Zygmunt, ich verstehe Ihre Sorge, aber Fortschritte in der KI sind unvermeidlich. 💡 Anstatt sich Veränderungen zu widersetzen, ist es besser, sich darauf zu konzentrieren, sie sicher und beherrschbar zu gestalten. Nur so können wir den Nutzen neuer Technologien maximieren.
Юрій
Stimme Eva voll und ganz zu. Die Entwicklung von AGI eröffnet neue Möglichkeiten zur Lösung globaler Probleme der Menschheit. 🌍 Stellen Sie sich vor, wir könnten damit den Klimawandel, Krankheiten oder sogar Hunger bekämpfen! Aber alles hängt vom ethischen Ansatz ab.
Марта
Ich bin sehr daran interessiert, wie OpenAI in seinem neuen Modell Kontext- und Emotionsverständnis bieten will. 🤔 Das ist ein zentrales Problem auf dem Weg zur AGI. Wird sie beispielsweise Sarkasmus oder Hintergedanken in der Kommunikation zwischen Menschen erkennen können? Das wird ein echter Durchbruch sein! 🚀