Anthropic warnt vor baldiger rekursiver Selbstverbesserung von KI-Modellen
Das KI-Unternehmen hat in einem aktualisierten Börsenprospekt bei der US-Börsenaufsicht SEC auf eine bevorstehende Schwelle hingewiesen. Interne Schätzungen deuten darauf hin, dass KI-gestützte Forschung die Entwicklung neuer Modelle bald dramatisch beschleunigen könnte.
Anthropic reichte am Montag eine überarbeitete Version des Formulars S-1/A bei der amerikanischen Börsenaufsichtsbehörde ein. Das Unternehmen teilte darin mit, dass seine internen Prognosen für kommende Systeme auf eine baldige Erreichung der kritischen Marke in der Responsible Scaling Policy hindeuten.
Die genannte Marke wird unter anderem dann überschritten, wenn die Unterstützung durch künstliche Intelligenz die Geschwindigkeit bei der Schaffung neuer Modelle mindestens verdoppelt. Das Unternehmen berichtet, dass Claude bereits große Teile der Forschungs- und Entwicklungsprozesse übernommen hat. Zu diesen Prozessen zählen das Verfassen von Programmcode, das Durchführen von Versuchen, das Überprüfen von Ergebnissen, das Erzeugen von Trainingsdaten sowie das Durchführen von Sicherheitsüberprüfungen.
Diesen Beitrag lesen Sie in voller Länge mit news.ĭ Premium — ausführliche Einordnungen zu den wichtigsten Nachrichten, ab 29 € für einen Monat. Einmal bezahlen, kein Abo, keine Kündigung nötig.
Premium ansehen Bereits Premium? Zugang aktivierenDieser Beitrag wurde mit Hilfe künstlicher Intelligenz erstellt.