Neustart

Es ist nicht sonderlich lange her, da war die Mitarbeit an Technologie
für Militärs und Kriege eine Aufgabe, auf die viele Menschen im Silicon
Valley nicht sonderlich erpicht waren. Interne Proteste gegen das
Pentagon-Projekt Maven zum Beispiel waren 2017 bei Google so groß, dass
die Firmenleitung die Zusammenarbeit nicht verlängerte.

Heute dagegen wirkt die Zusammenarbeit sehr viel selbstverständlicher
als noch vor einigen Jahren: Große Tech- und KI-Firmen schließen
reihenweise lukrative Vereinbarungen mit dem US-Kriegsministerium und
der Armee ab, Firmenchefs wie Palantir-Geschäftsführer Alex Karp äußern
sich zutiefst patriotisch, und neue Verteidigungstechnologiefirmen wie
der Drohnenbauer Anduril wachsen rasant.

In einer neuen Folge des ZEIT-Digitalpodcasts Neustart spricht
Digitalredakteur Titus Blome mit Host Meike Laaff, warum sich dahinter
nicht unbedingt ein Richtungswechsel verbirgt, sondern es eine Art
Rückkehr des Silicon Valley zu seinen Wurzeln ist – und warum die
Entwicklung so große Risiken birgt.

Haben Sie Feedback oder Fragen zur Folge? Dann schreiben Sie uns gern an
[email protected].

Im ZEIT-Podcast »Neustart« ordnen die Hosts Henrik Oerding und Meike
Laaff mit ihren Kolleginnen und Kollegen ein, was gerade in der
Digitalwelt passiert – und was dies für die Offlinewelt bedeutet. Auch,
aber nicht nur für Nerds. Jeden zweiten Donnerstag erscheint eine neue
Folge.

Dieser Podcast wird produziert von Pool Artists.

Mehr hören? Dann testen Sie unser Podcast-Abo mit Zugriff auf alle
Dokupodcasts und unser Podcast-Archiv. Jetzt 4 Wochen kostenlos testen.
Und falls Sie uns nicht nur hören, sondern auch lesen möchten, testen
Sie jetzt 4 Wochen kostenlos DIE ZEIT. Hier geht's zum Angebot.

Wenn es ein neues KI-Modell gibt, geben Firmen gerne damit an, was das
Modell nun alles besser können soll als seine Vorgänger. Nutzer und
Expertinnen können das dann zügig überprüfen. Anders bei Anthropic: Sein
neues Modell Claude Mythos will das Unternehmen nicht veröffentlichen.
Der Grund: Claude Mythos sei zu gefährlich. Nur knapp 50 ausgewählte
Organisationen – darunter Apple, Google und Microsoft – haben im Rahmen
des sogenannten Project Glasswing Zugang dazu erhalten. Das heißt, die
Behauptungen lassen sich nicht unabhängig überprüfen. Können sie
stimmen?

Neustart-Host Henrik Oerding spricht mit ZEIT-Cybersicherheitsexpertin
Eva Wolfangel, die sich die Veröffentlichungen von Anthropic zum neuen
Modell genauer angeschaut hat. Die beiden unterhalten sich darüber,
warum die National Security Agency der USA Mythos offenbar nutzt, obwohl
das Pentagon Anthropic zuletzt als Lieferkettenrisiko eingestuft hat.
Sie diskutieren, wie Anthropic vom Narrativ des »gefährlichsten Modells«
profitieren könnte, warum BSI-Chefin Claudia Plattner von einem
»Paradigmenwechsel« spricht – und weshalb mehr als 80 Prozent aller
Cyberangriffe gar keine ausgefeilte KI brauchen.

Im Rabbithole spricht Eva Wolfangel darüber, wie die Demokratisierung
des Programmierens durch KI neue Sicherheitsrisiken schafft: wenn jeder
eine App bauen kann, aber niemand prüft, ob der Code sicher ist.

Zum Weiterlesen: 

- Eva Wolfangel (DIE ZEIT): »Es kann eine gefährliche Waffe sein«
- Haya Schulmann, Michael Waidner (FAZ): Wie bedrohlich ist das neue
KI-Modell Mythos wirklich?
- Maria Curi, Sam Sabin (Axios): NSA using Anthropic's Mythos despite
blacklist
- Davi Ottenheimer: Verification is collapsing trust in Anthropic
- Anthropic: System Card zu Claude Mythos (PDF)

Haben Sie Feedback oder Fragen zur Folge? Dann schreiben Sie uns gern
an [email protected].

Im ZEIT-Podcast »Neustart« ordnen die Hosts Henrik Oerding und Meike
Laaff mit ihren Kolleginnen und Kollegen ein, was gerade in der
Digitalwelt passiert – und was dies für die Offlinewelt bedeutet. Auch,
aber nicht nur für Nerds. Jeden zweiten Donnerstag erscheint eine neue
Folge.

Dieser Podcast wird produziert von Pool Artists.

Mehr hören? Dann testen Sie unser Podcast-Abo mit Zugriff auf alle
Dokupodcasts und unser Podcast-Archiv. Jetzt 4 Wochen kostenlos testen.
Und falls Sie uns nicht nur hören, sondern auch lesen möchten, testen
Sie jetzt 4 Wochen kostenlos DIE ZEIT. Hier geht's zum Angebot.

Das Internet ist voll mit Grütze. Nicht mit der, die schon immer da war,
sondern neuer Grütze, und zwar Unmengen davon: Videos von Katzen, die
Spiegeleier braten. Texte, die wissenschaftlich klingen, aber eigentlich
inhaltsleer sind. Bilder von Shrimp-Jesus, Songs, für die kein Künstler
je zum Instrument gegriffen hat. Oder ein Video von einem KI-generierten
Donald Trump, der mit einem Kot-Bomber über Demonstranten fliegt. Alles
davon ist erschaffen von künstlicher Intelligenz: sogenannter AI-Slop.
Analysen stellen fest, dass es immer mehr davon gibt. Ist das harmlose
Berieselung – oder ein echtes Problem?

Die "Neustart"-Hosts Meike Laaff und Henrik Oerding sortieren in dieser
Folge, wo AI-Slop nur albern ist und wo er gefährlich werden kann. Sie
sprechen darüber, warum Forscher von "Slopaganda" sprechen, wie
KI-generierte Lego-Videos zur diplomatischen Waffe werden und was Slop
mit Billigprodukten aus der Vergangenheit gemeinsam hat. Die beiden
diskutieren, was das Aus der OpenAI-Videoplattform Sora bedeutet, warum
Gamer wütend auf Nvidia sind – und ob der Begriff AI-Slop selbst
vielleicht schon ein Zeichen von Gegenwehr ist.

Im Rabbithole stellt Henrik Oerding die Website youraislopbores.me vor –
einen Chat, in dem nicht KI antwortet, sondern echte Menschen.

Zum Weiterlesen:

- DIE ZEIT: Stopp den Slop
- DIE ZEIT: Unendlicher Spaß
- DIE ZEIT: Künstlich befruchtet
- "404 Media": Iran Is Winning the AI Slop Propaganda War
- "The New York Times": Who’s a Better Writer: A.I. or Humans? Take
Our Quiz.

Haben Sie Feedback oder Fragen zur Folge? Dann schreiben Sie uns gern an
[email protected].

Im ZEIT-Podcast "Neustart" ordnen die Hosts Henrik Oerding und Meike
Laaff mit ihren Kolleginnen und Kollegen ein, was gerade in der
Digitalwelt passiert – und was dies für die Offlinewelt bedeutet. Auch,
aber nicht nur für Nerds. Jeden zweiten Donnerstag erscheint eine neue
Folge.

Dieser Podcast wird produziert von Pool Artists.

Mehr hören? Dann testen Sie unser Podcast-Abo mit Zugriff auf alle
Dokupodcasts und unser Podcast-Archiv. Jetzt 4 Wochen kostenlos testen.
Und falls Sie uns nicht nur hören, sondern auch lesen möchten, testen
Sie jetzt 4 Wochen kostenlos DIE ZEIT. Hier geht's zum Angebot.

Mehr als 90 Prozent aller täuschend echt aussehenden Videos im Netz
zeigen pornografische Inhalte – etwa 99 Prozent davon Frauen. Was tun
gegen diese Deepfakes und die digitale Gewalt, die vor allem Frauen
erfahren? Auf diese Frage will die Politik in dieser Woche eine Antwort
finden – Bundesjustizministerin Stefanie Hubig hat dafür einen
Gesetzesentwurf angekündigt. 

Das Thema digitale Gewalt ist wieder ganz oben auf der Tagesordnung
gelandet, seit die Moderatorin und Schauspielerin Collien Fernandes
öffentlich schwere Vorwürfe gegen ihren Ex-Mann Christian Ulmen erhoben
hatte. Fernandes beschuldigt Ulmen, in ihrem Namen mit anderen Männern
gechattet und vermeintliche Nacktfotos und Videos von ihr mit ihnen
geteilt zu haben. Darüber hatte der Spiegel zuerst berichtet. Christian
Ulmen lässt die Vorwürfe über seinen Anwalt bestreiten. 

Seit Jahren kämpft Fernandes gegen gefälschte Pornobilder im Internet,
sogenannte Deepfakes. Ein Gericht in Spanien bestätigte der ZEIT am
Freitag, dass ein Vorverfahren gegen Ulmen geführt werde, nachdem
Fernandes Anzeige erstattet hatte.

Schon zuvor hatten die massenhafte Verbreitung von sexualisierten
KI-Bildern, die Elon Musks Chatbot Grok generierte, und der Fall einer
jungen Studentin, die gegen sexualisierte KI-Nacktbilder Anzeige
erstattete, Aufmerksamkeit für das Thema digitale Gewalt geschaffen, das
in Deutschland laut einer Studie viele Frauen betrifft. 

Wie kann man sich gegen sexualisierte Deepfakes im Netz wehren? Was
genau soll sich nun ändern? Welchen Schutz gibt es – und welche Rolle
spielen Männer in der Debatte um Gewalt gegen Frauen im Netz?
ZEIT-Volontär David Will und Lisa Hegemann, Ressortleiterin Digital der
ZEIT, besprechen die juristischen und gesellschaftlichen Dimensionen
digitaler Gewalt mit Neustart-Host Meike Laaff. 

Im Rabbit Hole der Woche erzählt Lisa Hegemann von ihrer Recherche zum
Thema Emojis und wie sie verschiedenen Generationen dabei helfen, sich
misszuverstehen. 

Haben Sie Feedback oder Fragen zur Folge? Dann schreiben Sie uns gern an
[email protected]. 

Im ZEIT-Podcast "Neustart" ordnen die Hosts Henrik Oerding und Meike
Laaff mit ihren Kolleginnen und Kollegen ein, was gerade in der
Digitalwelt passiert – und was dies für die Offlinewelt bedeutet. Auch,
aber nicht nur für Nerds. Jeden zweiten Donnerstag erscheint eine neue
Folge.

Dieser Podcast wird produziert von Pool Artists.

Mehr hören? Dann testen Sie unser Podcast-Abo mit Zugriff auf alle
Dokupodcasts und unser Podcast-Archiv. Jetzt 4 Wochen kostenlos testen.
Und falls Sie uns nicht nur hören, sondern auch lesen möchten, testen
Sie jetzt 4 Wochen kostenlos DIE ZEIT. Hier geht's zum Angebot.

Vor wenigen Wochen ging die Plattform RentAHuman viral: Menschen sollten
sich dort anbieten können, um von autonomen KI-Agenten für Aufgaben
angeheuert zu werden – Knöpfe drücken, laufen, Menschen auf der Straße
ansprechen. "AI needs your body", heißt es auf der Website. Die
Geschichte vom Menschen als ausführendem Diener der allmächtigen
künstlichen Intelligenz (KI) erzählte sich fast von selbst – und wurde
von zahlreichen Medien aufgegriffen. Doch sie ist wohl falsch – und die
Plattform vermutlich ein Betrug.

"Neustart"-Host Henrik Oerding spricht in dieser Folge mit
ZEIT-Cybersicherheitsexpertin Eva Wolfangel, die gemeinsam mit dem
Informatiker Christopher Helm die Daten der Plattform ausgewertet hat.
Wolfangel und Oerding gehen der Frage nach, was die Redakteurin von
Anfang an skeptisch gemacht hat, was die Datenanalyse über die
angeblichen KI-Aufträge verraten hat und wer hinter der Seite steckt.
Sie diskutieren, ob durch den Hype um RentAHuman realer Schaden
entstanden ist – und was eine aktuelle Studie über die tatsächlichen
Gefahren autonomer KI-Agenten sagt. Darüber – und wie man sich künftig
gegen solche viralen KI-Hypes wappnen kann – geht es in dieser Folge.

Im Rabbithole sprechen Eva Wolfangel und Henrik Oerding über bahn.bet:
eine Website, auf der man auf Bahnverspätungen wetten kann. Zwar nicht
mit echtem Geld, aber auf echte Verspätungen.

Zum Weiterlesen:

- DIE ZEIT: Die perfekte KI-Geschichte, nur leider nicht wahr
- DIE ZEIT: Würden Sie sich von einer KI anheuern lassen?
- Natalie Shapira et al.: "Agents of Chaos"
- DIE ZEIT: "Wir Österreicher leiden ja auch unter der Deutschen Bahn"
- Heise: KI-Agent entwickelt Eigenleben beim Training

Haben Sie Feedback oder Fragen zur Folge? Dann schreiben Sie uns gern
an [email protected].

Im ZEIT-Podcast "Neustart" ordnen die Hosts Henrik Oerding und Meike
Laaff mit ihren Kolleginnen und Kollegen ein, was gerade in der
Digitalwelt passiert – und was dies für die Offlinewelt bedeutet. Auch,
aber nicht nur für Nerds. Jeden zweiten Donnerstag erscheint eine neue
Folge.

Dieser Podcast wird produziert von Pool Artists.

Mehr hören? Dann testen Sie unser Podcast-Abo mit Zugriff auf alle
Dokupodcasts und unser Podcast-Archiv. Jetzt 4 Wochen kostenlos testen.
Und falls Sie uns nicht nur hören, sondern auch lesen möchten, testen
Sie jetzt 4 Wochen kostenlos DIE ZEIT. Hier geht's zum Angebot.