Prioritäten / Sören Mindermann über das Problem der Ausrichtung Künstlicher Intelligenz

Summary

Sören Mindermann erklärt, wie moderne KI-Systeme funktionieren, wie Fehlausrichtungen dieser KI-Systeme (engl.: AI misalignment) entstehen können und welche Ansätze es gibt, um dem vorzubeugen.Für ein Transkript des Gesprächs mit weiterführenden Ressourcen siehe: https://prioritaeten-podcast.de/episode/soren-mindermann-uber-das-problem-der-ausrichtung-kunstlicher-intelligenz

Subtitle
Duration: 4695
Publishing date: 2023-09-05 18:00
Link: https://prioritaeten-podcast.de/episode/soren-mindermann-uber-das-problem-der-ausrichtung-kunstlicher-intelligenz
Contributors: Stephan Dalügge / Sören Mindermann; author
Enclosures: https://www.buzzsprout.com/2154795/13533626-soren-mindermann-uber-das-problem-der-ausrichtung-kunstlicher-intelligenz.mp3; audio/mpeg

Shownotes

Sören Mindermann erklärt, wie moderne KI-Systeme funktionieren, wie Fehlausrichtungen dieser KI-Systeme (engl.: AI misalignment) entstehen können und welche Ansätze es gibt, um dem vorzubeugen.

Für ein Transkript des Gesprächs mit weiterführenden Ressourcen siehe: https://prioritaeten-podcast.de/episode/soren-mindermann-uber-das-problem-der-ausrichtung-kunstlicher-intelligenz

Deeplinks to Chapters

0:00 Einführung ins Thema KI-Ausrichtung

1:03:14 Hinterlist und falsche Generalisierungen

10:34 Was bedeutet (Fehl-)ausrichtung?

1:06:53 Ansätze für die Ausrichtung von KI

1:16:52 Outro

12:17 Selbstüberwachtes und nicht-selbstüberwachtes Lernen

16:11 Fehlspezifikationen

18:44 Historische Betrachtung zu KI-Ausrichtung

21:27 Rekursive Selbstverbesserung

24:28 Instrumentelle Konvergenz und Orthogonalitätsthese

2:45 Effektivität nicht-pharmazeutischer Covid-Gegenmaßnahmen

28:43 Wie intelligent können Maschinen werden? Bedrohung selbst durch nicht-superintelligente Systeme

34:39 Situationsbewusstes Belohnungs-Hacking

4:11 Was ist maschinelles Lernen? Wie funktioniert es?

43:23 Intern repräsentierte Ziele

52:40 Machtstrebendes Verhalten