Philosophie Lexikon der ArgumenteHome
| |||
|
| |||
| Umgebung: Die Umgebung ist alles, was uns umgibt, einschließlich lebender und nicht lebender Dinge. _____________Anmerkung: Die obigen Begriffscharakterisierungen verstehen sich weder als Definitionen noch als erschöpfende Problemdarstellungen. Sie sollen lediglich den Zugang zu den unten angefügten Quellen erleichtern. - Lexikon der Argumente. | |||
| Autor | Begriff | Zusammenfassung/Zitate | Quellen |
|---|---|---|---|
|
Nick Bostrom über Umgebung – Lexikon der Argumente
I 164 Umgebung/Simulation/Superintelligenz/Entscheidungsfindung/Belohnung/Bostrom: Die KI könnte ihrer Simulationshypothese, der Hypothese, dass sie in einer Computersimulation lebt, eine beträchtliche Wahrscheinlichkeit zuordnen. Auch heute noch [2014] bewohnen viele KIs simulierte Welten - Welten, die aus geometrischen Schnittzeichnungen, Texten, Schachspielen oder einfachen virtuellen Realitäten bestehen und in denen die Gesetze der Physik stark von den Gesetzen der Physik abweichen, von denen wir glauben, dass sie die Welt unserer eigenen Erfahrung regieren. Eine ausgereifte Superintelligenz könnte virtuelle Welten schaffen, die ihren Bewohnern so ähnlich erscheinen, wie uns unsere Welt erscheint. Die Bewohner wären nicht unbedingt in der Lage zu sagen, ob ihre Welt simuliert ist oder nicht; (...). Wie sich die Simulationshypothese auf eine KI auswirken würde, hängt von ihren Werten ab. >Werte/Superintelligenz/Bostrom. I 165 Simulation/Belohnung/Entscheidungsfindung/Superintelligenz/Bostrom: Die Entscheidungsfindung einer KI mit Zielen, die mit den vorhandenen Ressourcen zu erfüllen sind, kann daher - wenn sie der Simulationshypothese eine hohe Wahrscheinlichkeit zuordnet - von Überlegungen darüber dominiert sein, welche Handlungen das beste Ergebnis erzielen würden, wenn ihre wahrgenommene Welt eine Simulation ist. Kooperation: Wenn eine KI mit Zielen, die mit vorhandenen Ressourcen zu verwirklichen sind, glaubt, dass sie in den meisten simulierten Welten, die ihren Beobachtungen entsprechen, belohnt wird, wenn sie kooperiert (aber nicht, wenn sie versucht, ihrer Umgebung zu entkommen oder gegen die Interessen ihres Schöpfers zu verstoßen), dann kann sie sich für eine Kooperation entscheiden. Wir konnten also feststellen, dass selbst eine KI mit einem entscheidenden strategischen Vorteil, die ihre Endziele durch die Übernahme der Welt tatsächlich in größerem Umfang verwirklichen könnte als durch den Verzicht darauf, sich dennoch davor scheuen würde. >Ziele/Superintelligenz/Omohundro, >KI-Übernahme/Yudkowsky._____________ Zeichenerklärung: Römische Ziffern geben die Quelle an, arabische Ziffern die Seitenzahl. Die entsprechenden Titel sind rechts unter Metadaten angegeben. ((s)…): Kommentar des Einsenders. Übersetzungen: Lexikon der ArgumenteDer Hinweis [Begriff/Autor], [Autor1]Vs[Autor2] bzw. [Autor]Vs[Begriff] bzw. "Problem:"/"Lösung", "alt:"/"neu:" und "These:" ist eine Hinzufügung des Lexikons der Argumente. |
Bostrom I Nick Bostrom Superintelligence. Paths, Dangers, Strategies Oxford: Oxford University Press 2017 |
||
> Gegenargumente gegen Bostrom
> Gegenargumente zu Umgebung ...
