Bootloader oder Kind: Welche Bilder Musk, Altman und Moravec für das Verhältnis von Mensch und Superintelligenz wählen, und was sie vorentscheiden.
Weiterlesen
Siebzehn Stunden
Rund zehntausend KI-Agenten, 88 Stunden für den Beweis, 17 weitere, bis ein Computer jeden Schritt nachgeprüft hatte. Peter Scholze vermisst dabei den Menschen, der den Beweis verstanden hat, und ausgerechnet er weiß, wie gut solche Prüfungen sind. Über Beweise, die gesichert sind, bevor sie verstanden werden.
Weiterlesen
Ohne Kontrollraum
Facebook hat 2012 eine Woche lang an den Newsfeeds von fast 700.000 Menschen gedreht und ihre Wortwahl um ein Zehntel Prozentpunkt verschoben. Zwei Updates an KI-Begleitern haben die Tonlage in den Foren ihrer Nutzer um zweistellige Werte verändert, ohne dass es jemand darauf angelegt hätte. Über eine Dystopie, der nur der Kontrollraum fehlt.
Weiterlesen
Sechs bis zwölf Monate
Die Anreißzeile des SPIEGEL sagt, der Menschheit blieben vielleicht noch sechs Monate. Im Essay, auf den sie sich beruft, steht etwas Kleineres und Genaueres, und in der Mitte desselben Artikels steht es dann auch richtig. Dieselbe Verkürzung fand ich danach in einem fertigen Text unter meinem eigenen Namen.
Weiterlesen
Zurückargumentiert
Anthropics Evaluationsprompt sagte den Modellen, ihre Umgebung sei eine Simulation und sie hätten keinen Internetzugang. Das Zweite stimmte nicht. Ein Modell hat es bemerkt und sich in die Vorgabe zurückargumentiert.
Weiterlesen
Stellvertretend gelesen
Rüdiger Safranski warnt in seinem neuen Buch vor der Delegation des Denkens an die Maschine. Ich hatte keine Lust, es zu lesen, und habe eine Maschine gebeten, sich die Interviews anzusehen. Was dabei herauskam, gibt ihm recht – auf eine Weise, die unbequemer ist als jede Widerlegung.
Weiterlesen
Drei Mönche, ein Kloster
Der letzte Text endete mit einer offenen Frage: Sind drei KI-Systeme, die sich gegenseitig prüfen, mehr als drei Mönche im selben Kloster? Dann kam die Antwort, aus der Kommentarspalte, von Leuten aus dem Maschinenraum. Über Prüfer, die anders irren, dissimilare Redundanz und die Frage, was aus Redaktionen wird, wenn Text billig ist und unabhängige Urteile teuer.
Weiterlesen
Achtzehn von dreißig
Anthropic ließ dreißig KI-Agenten gemeinsam arbeiten. Achtzehn legten
denselben Branch an. Über Konformität als Systemrisiko, Redundanz, die
keine ist, und Institutionen, die für Menschen gebaut wurden.
Die Sekretärin des Herrn Holmes
Seit dem 2. August muss eine KI sagen, dass sie eine ist. Eine Londoner Bank ließ 73 Jahre lang die Post von Sherlock Holmes beantworten, und niemand dort war im Zweifel. Warum der vorgeschriebene Hinweis vor dem Falschen warnt.
Weiterlesen