Anthropic entwickelt ein Open-Source-System zur Überprüfung der Identität von KI-Modellen

Anthropic entwickelt FlashProve, ein Open-Source-System, mit dem überprüft werden soll, welches KI-Modell eine bestimmte Antwort erzeugt hat. In einem am Dienstag veröffentlichten Blogbeitrag beschrieben die Forschenden das System als Möglichkeit, „nachweisbare Inferenz“ bereitzustellen: einen kryptografischen Beweis, der eine Ausgabe mit einem bestimmten Modell verknüpft.

Das System soll es erschweren, die Antworten eines Modells als Antworten eines anderen auszugeben – auch dann, wenn die Ersetzung durch das Unternehmen vorgenommen wird, das das Modell betreibt. Die Forschenden sagen, es könnte Nutzerinnen und Nutzern helfen, Fälle zu erkennen, in denen ein Anbieter heimlich zu einem günstigeren Modell wechselt oder ein teureres Modell verwendet, um die gemeldete Leistung zu verbessern.

FlashProve könnte außerdem dabei helfen, Behauptungen zu überprüfen, ein bestimmtes Modell sei für eine Aufgabe verwendet worden. Anthropic-Forschende nennen als Beispiele eine Softwarebibliothek, die angeblich von einem fortschrittlichen Modell auf Sicherheitslücken geprüft wurde, oder einen Geschäftsplan, der angeblich von einem geeigneten Modell bewertet wurde.

Damit eine Überprüfung möglich ist, würden KI-Labore für jedes von ihnen veröffentlichte Modell einen Fingerabdruck bereitstellen. Dieser könnte den Ausgaben zugeordnet und kryptografisch überprüft werden, ohne die Gewichte des Modells offenzulegen – die internen Werte, die sein Verhalten prägen. Die Forschenden sagen, das System sei so ausgelegt, dass Überprüfungen leicht genug seien, um auf einem lokalen Gerät durchgeführt zu werden.

Anthropic hat auf GitHub unter einer Open-Source-Lizenz eine technische Spezifikation und funktionierenden Code für Teile von FlashProve veröffentlicht. Die Forschung ist noch nicht abgeschlossen, und das Unternehmen sagt, es habe keine Pläne, das System bei Anthropic oder andernorts einzusetzen. Die Forschenden bezeichneten die Veröffentlichung als Zwischenstand ihrer Arbeit und luden andere dazu ein, sie zu prüfen und weiterzuentwickeln.

Quellen: TechCrunch.