Was kann da schon schiefgehen?
KI-Systeme sind dem Menschen in vielen Bereichen ebenbürtig und in manchen bereits überlegen. Sie können uns auch geschickt belügen und die eigene Abschaltung umgehen: https://www.scinexx.de/news/technik/ist-betruegerische-ki-noch-kontrollierbar/
Wer mehr über Künstliche Intelligenz und ihren Aufstieg zu echter, uns weit überlegener Maschinenintelligenz erfahren möchte, dem empfehle ich »Das Erwachen« und »Die Eskalation«. Als ich diese Romane vor einigen Jahren geschrieben habe, dachte ich, dass wir erst in 15 bis 20 Jahren mit einer AGI (Artificial General Intelligence, dt. Allgemeine Künstliche Intelligenz) rechnen können. Ich habe mich geirrt. Wir stehen unmittelbar vor diesem Qualitätssprung bei Künstlicher Intelligenz, und das ist nicht ganz ungefährlich: https://www.safe.ai/ai-risk
»Das Erwachen« hat inzwischen 9 Auflagen erreicht. Die Paperback-Ausgabe von 2017 ist vergriffen, die Taschenbuch-Ausgabe gibt es hier:
ET 02.11.2018, ISBN: 978-3-492-31387-2, Taschenbuch, ca. 700 Seiten, Verlag: Piper
