La Palma Forum

Es gibt Momente, da möchte man den Kopf nicht nur schütteln, sondern ihn rhythmisch auf die Tischplatte schlagen. Wir reden seit Jahren über „Digitale Souveränität“. Politiker in Berlin und Brüssel werden nicht müde, das Wort in jedes Mikrofon zu hauchen, als wäre es ein magisches Schutzschild. Wir wollen unabhängig werden, wir wollen europäische Werte in der IT, wir wollen keine Datenkolonie sein. Und was passiert, wenn das Licht der Kameras aus ist? Wir unterschreiben Verträge, die genau das Gegenteil bewirken.

... Ein Schreckensszenario, das Leike durchaus für möglich hält, ist eine künstliche Superintelligenz mit Überlebensdrang, die irgendwann beschließt, dass der Strom besser in die eigenen Rechenzentren fließen sollte als in die Wohnzimmer und Fabriken der Menschen. "Die Ressourcen auf der Erde sind begrenzt", sagt Leike. Dafür müsse die Maschine auch gar keine bösen Absichten haben. Ihre Ziele müssten nur denen der Menschen zuwiderlaufen. Um solche Szenarien zu verhindern, lassen Unternehmen wie Anthropic oder OpenAI die Antworten ihrer Chatbots von Menschen bewerten. Aus diesem Feedback lernen die Maschinen schrittweise, welche Verhaltensweisen erwünscht sind. Bisher hat sich das bewährt. Doch für die Zukunft will sich Leike nicht mehr allein auf den Menschen verlassen. "Irgendwann wird die Maschine Dinge tun, die wir nicht mehr verstehen", sagt er. Die derzeit vielversprechendste Lösung aus Leikes Sicht: Die alte KI überwacht die neue, weiterentwickelte Version. In etwa so, als passe ein kleiner Bruder auf den großen Bruder auf. Ob das allerdings auch bei hoch entwickelten Systemen noch funktioniert, sei "eine offene Frage", sagt er. Seine Befürchtung: Das neue System könnte das alte austricksen, so wie große Brüder eben kleine Brüder austricksen, einfach weil sie mehr wissen. "Wir sollten vorbereitet sein", sagt Leike. ...

»Das Gute ist«, scherzt Maini, »dass ich nun endlich mit dem Rauchen anfangen kann.«
Denn entweder werde die KI bald Lungenkrebs heilen.
Oder Krebs sei im Fall einer KI-Apokalypse ohnehin sein geringstes Problem.