Philosophie Lexikon der Argumente

Home Screenshot Tabelle Begriffe

Autor Begriff Zusammenfassung/Zitate Quellen

Nick Bostrom über Kooperation – Lexikon der Argumente

I 165
Kooperation/Superintelligenz/Belohnung/Simulation/Umwelt/Werte/Bostrom: Wenn eine KI mit Ressourcen-sättigenden Endzielen glaubt, dass sie in den meisten simulierten Welten, die ihren Beobachtungen entsprechen, belohnt wird, wenn sie kooperiert (aber nicht, wenn sie versucht, ihrer Spielumgebung zu entkommen oder gegen die Interessen ihres Schöpfers zu verstoßen), dann kann sie sich für eine Kooperation entscheiden.
Wir könnten also feststellen, dass selbst eine KI mit einem entscheidenden strategischen Vorteil, die ihre Endziele durch die Übernahme der Welt tatsächlich in größerem Umfang realisieren könnte als durch den Verzicht darauf, sich dennoch davor scheuen würde. >Entscheidungsfindung/KI-Forschung, >Werte/Superintelligenz/Bostrom, >Motivation/Superintelligenz/Bostrom, >Ziele/Superintelligenz/Omohundro, >Ethik/Superintelligenz/Bostrom.


_____________
Zeichenerklärung: Römische Ziffern geben die Quelle an, arabische Ziffern die Seitenzahl. Die entsprechenden Titel sind rechts unter Metadaten angegeben. ((s)…): Kommentar des Einsenders. Übersetzungen: Lexikon der Argumente
Der Hinweis [Begriff/Autor], [Autor1]Vs[Autor2] bzw. [Autor]Vs[Begriff] bzw. "Problem:"/"Lösung", "alt:"/"neu:" und "These:" ist eine Hinzufügung des Lexikons der Argumente.

Bostrom I
Nick Bostrom
Superintelligence. Paths, Dangers, Strategies Oxford: Oxford University Press 2017

Send Link
> Gegenargumente gegen Bostrom

Autoren A   B   C   D   E   F   G   H   I   J   K   L   M   N   O   P   Q   R   S   T   U   V   W   Y   Z  


Begriffe A   B   C   D   E   F   G   H   I   J   K   L   M   N   O   P   Q   R   S   T   U   V   W   Z