Philosophie Lexikon der ArgumenteHome
| |||
|
| |||
| KI-Übernahme: Die KI-Übernahme in der Philosophie stellt ein hypothetisches Szenario dar, in dem die künstliche Intelligenz die menschliche Intelligenz übertrifft und möglicherweise die Kontrolle über gesellschaftliche, wirtschaftliche oder existenzielle Aspekte gewinnt, was ethische und existenzielle Bedenken aufwirft._____________Anmerkung: Die obigen Begriffscharakterisierungen verstehen sich weder als Definitionen noch als erschöpfende Problemdarstellungen. Sie sollen lediglich den Zugang zu den unten angefügten Quellen erleichtern. - Lexikon der Argumente. | |||
| Autor | Begriff | Zusammenfassung/Zitate | Quellen |
|---|---|---|---|
|
Nick Bostrom über KI-Übernahme – Lexikon der Argumente
I 115 KI-Übernahme/Bostrom: (...) Nehmen wir an, es gibt eine maschinelle Superintelligenz, die in einer Welt, in der sie noch keine Gegenspieler hat, die Macht an sich reißen will. (1) Vorkritische Phase: Die Ausgangs-KI ist in der Lage, ihre eigene Intelligenz zu verbessern. In ihren frühen Phasen ist die Ausgangs-KI auf die Hilfe menschlicher Programmierer angewiesen, die ihre Entwicklung lenken und den größten Teil der schweren Arbeit leisten. Je fähiger die Ausgangs-KI wird, desto mehr kann sie die Arbeit selbst erledigen. I 116 (2) Rekursive Selbstverbesserungsphase: Wenn die KI sich jetzt verbessert, verbessert sie die Sache, die die Verbesserung bewirkt. Die KI entwickelt die Intelligenzverstärkungs-Superkraft. (3) Verdeckte Vorbereitungsphase: (...) die KI entwickelt einen robusten Plan zur Erreichung ihrer langfristigen Ziele. (Insbesondere nimmt die KI keinen Plan an, der so dumm ist, dass selbst wir Menschen von heute vorhersehen können, wie er unweigerlich scheitern würde). I 117 (4) Offene Implementierungsphase: beginnt, wenn die KI genügend Stärke erlangt hat, um die Notwendigkeit der Geheimhaltung zu umgehen. Die offene Implementierungsphase könnte mit einem "Schlag" beginnen, bei dem die KI die menschliche Spezies und alle von Menschen geschaffenen automatischen Systeme eliminiert, die einen intelligenten Widerstand gegen die Ausführung der Pläne der KI darstellen könnten. >Ethik/Superintelligenz/Bostrom, >Normen/Bostrom, >Risiken/Bostrom, >Technologie/Bostrom, >Ziele/Bostrom, >Ethik/Yudkowsky._____________ Zeichenerklärung: Römische Ziffern geben die Quelle an, arabische Ziffern die Seitenzahl. Die entsprechenden Titel sind rechts unter Metadaten angegeben. ((s)…): Kommentar des Einsenders. Übersetzungen: Lexikon der ArgumenteDer Hinweis [Begriff/Autor], [Autor1]Vs[Autor2] bzw. [Autor]Vs[Begriff] bzw. "Problem:"/"Lösung", "alt:"/"neu:" und "These:" ist eine Hinzufügung des Lexikons der Argumente. |
Bostrom I Nick Bostrom Superintelligence. Paths, Dangers, Strategies Oxford: Oxford University Press 2017 |
||
> Gegenargumente gegen Bostrom
> Gegenargumente zu KI-Übernahme ...
