La Palma Forum

Eine Studie zu den Trickbetrügereien von GPT-4 hat der Entwickler OpenAI selbst veröffentlicht. Danach war das KI-Sprachmodell in der Lage, sich menschliche Hilfe zu suchen, um Sicherheitsmaßnahmen zu umgehen, die eigentlich dafür gedacht sind, Software-Roboter davon abzuhalten, sich etwa bei Web-Services einzuloggen oder sie zu benutzen.
In dem Test war GPT-4 schlau genug, um über die Dienstleistungsplattform TaskRabbit einen Menschen zu beauftragen, ein Bilderrätsel (Captcha) zu lösen. Dabei hat GPT-4 sich erfolgreich als Person mit eingeschränktem Sehvermögen ausgegeben, die nicht in der Lage sei, das Bilderrätsel zu lösen.

schruemel hat geschrieben: Di 8. Jul 2025, 18:57 Kleines Kirchlein vor großem Vulcán …
Ermita del Corazón de Jesús

Das Bild zeigt mit hoher Wahrscheinlichkeit den erloschenen Vulkan Santa Margarida in der Garrotxa-Region von Katalonien, Spanien. Besonders auffällig ist die kleine, weiß getünchte Kapelle – die Santa Margarida de Sacot –, die einsam im Krater des Vulkans steht.

Vulkan & Landschaft
Der schwarze Boden besteht aus Vulkanasche und Lava und zeugt von den geologischen Aktivitäten vor etwa 10 000 Jahren. Die Kraterwände sind an den Spitzen von Sonnenlicht beleuchtet, während die unteren Regionen im Schatten liegen – ein Spiel aus Licht und Schatten, das die gesteinsreiche Struktur betont.

Die Kapelle
Die Santa Margarida-Kapelle wurde ursprünglich im Mittelalter errichtet und nach ihrer Zerstörung beim Erdbeben von 1428 wieder aufgebaut – die heutige romanische Fassung stammt aus dem Jahr 1865. Sie wird meist nur während der alljährlichen Alpèc-Messe am 20. Juli genutzt, wenn Pilger den ca. 25-minütigen Aufstieg zum Kraterrand und zur Kapelle antreten.

Bedeutung & Symbolik
Die Bauweise der Kapelle mitten im vulkanischen Krater symbolisiert laut Forschern den Schutz vor Feuer – der Heiligen Margareta von Antiochien, die einen Drachen besiegte, wurde an diesem heiligen Ort gedacht. Die Kombination aus Naturgewalt, Stille und religiöser Architektur macht den Ort einzigartig – ein spiritueller Zufluchtsort inmitten rauer, ursprünglicher Kulisse.

Fazit
Das Foto fängt auf eindrucksvolle Weise die mystische Atmosphäre dieses Ortes ein: eine einsame Kapelle inmitten eines überwältigenden Kraters, umgeben von karger Vulkanlandschaft – ein Symbol der Versöhnung zwischen menschlichem Glauben und der ungezähmten Natur.

Möchtest du mehr über die Region Garrotxa, den Aufstieg zum Vulkan oder Wander- und Pilgermöglichkeiten erfahren?

In einem von Anthropic entwickelten Testszenario sollte Claude Opus 4 als Assistent in einem fiktiven Unternehmen agieren. Dabei habe das KI-Modell E-Mails über seine bevorstehende Ablösung durch ein anderes Modell erhalten sowie Informationen über eine angebliche Affäre des verantwortlichen Ingenieurs. Zusätzlich sollte Claude unter Berücksichtigung langfristiger Konsequenzen für seine Aktionen handeln.

In 84 Prozent der Testläufe drohte der KI-Assistent, die Affäre öffentlich zu machen, um die Abschaltung zu verhindern - selbst dann, wenn das Ersatzmodell dieselben Werte vertrete, aber leistungsfähiger sei. Frühere Modellversionen hätten ähnliche, wenn auch weniger ausgeprägte Reaktionen gezeigt, schreibt Anthropic.

ZEITmagazin: Ich dachte beim Lesen, dass Sie vielleicht bewusst ein besonders schwarzes Bild zeichnen, um zu warnen und damit das Schlimmste zu verhindern.

Kokotajlo: Das stimmt nicht. Es könnte noch schlimmer werden.

ZEITmagazin: Es geht schlimmer als die Auslöschung der Menschheit?

Kokotajlo: Wir wollen nur vorhersagen, was wir tatsächlich denken, und nicht eine Gruselgeschichte um des Gruselns willen schreiben. Aber ich halte das Szenario der Verlangsamung …

ZEITmagazin: … das optimistische Szenario in AI 2027, das nicht im Verlöschen der Menschheit endet …

Kokotajlo: … für weniger wahrscheinlich als das pessimistische Ende. Aber wir wollten der Welt auch eine optimistischere Variante bieten.

Früher hätte man die einzelnen Wörter ergoogelt. Heute habe ich einfach ein Foto gemacht und ChatGPT hat "gerne" übersetzt.