Philosophie Lexikon der Argumente

Home Screenshot Tabelle Begriffe

 
Werteorientierung: Werteorientierung in der KI bedeutet, dass Systeme der künstlichen Intelligenz und ihre Handlungen mit den menschlichen Werten, der Ethik und den Zielen in Einklang gebracht werden. Siehe auch Künstliche Intelligenz, Werte, Ethik, Roboterethik, Robotergesetze.

_____________
Anmerkung: Die obigen Begriffscharakterisierungen verstehen sich weder als Definitionen noch als erschöpfende Problemdarstellungen. Sie sollen lediglich den Zugang zu den unten angefügten Quellen erleichtern. - Lexikon der Argumente.

 
Autor Begriff Zusammenfassung/Zitate Quellen

Anca Dragan über Wertorientierung – Lexikon der Argumente

Brockman I 140
Wertorientierung/Dragan: Der ursprüngliche Gedanke war, dass wir für jede Aufgabe, die wir vom Roboter erledigt haben wollten, eine Belohnungsfunktion aufschreiben könnten, die das richtige Verhalten fördert. Leider passiert es oft, dass wir
Brockman I 141
eine Belohnungsfunktion spezifizieren und das Verhalten, das sich aus der Optimierung ergibt, nicht das ist, was wir wollen.
Stuart Russell und Peter Norvig geben in ihrem Buch 'Artificial Intelligence: A Modern Approach'(1) ein schönes Beispiel: z.B. führt die Belohnung eines Staubsaugroboters für die Menge an Staub, die er ansaugt, dazu, dass der Roboter beschließt, Staub auszuschütten, damit er ihn wieder ansaugen und mehr Belohnung erhalten kann.
Lösung: Ein scheinbar besseres Paradigma könnte sein, dass sich Roboter für das, was wir intern wollen, optimieren, auch wenn wir Schwierigkeiten haben, es zu erklären. Sie würden das, was wir sagen und tun, als Beweis dafür verwenden, was wir wollen, anstatt es wörtlich zu interpretieren und als gegeben zu betrachten.
Brockman I 142
Problem: [Es gibt eine Frage, die] die KI allein nicht beantworten kann: Wir können Roboter dazu bringen, zu versuchen, sich an den inneren Werten einer Person zu orientieren, aber es gibt mehr als eine Person, die hier involviert ist. Wie man die Werte dieser Menschen kombiniert, falls sie in einen Konflikt geraten, ist ein wichtiges Problem, das wir lösen müssen. Die KI-Forschung kann uns die Werkzeuge an die Hand geben, um Werte in jeder von uns ausgewählten Art und Weise zu kombinieren, sie kann aber nicht die notwendige Entscheidung für uns treffen.


1. Russell, S and Norvig P. 1994. Artificial Intelligence: A Modern Approach. Upper Saddle River NJ: Prentice Hall.


Dragan, Anca, “Putting the Human into the AI Equation” in: Brockman, John (ed.) 2019. Twenty-Five Ways of Looking at AI. New York: Penguin Press.


_____________
Zeichenerklärung: Römische Ziffern geben die Quelle an, arabische Ziffern die Seitenzahl. Die entsprechenden Titel sind rechts unter Metadaten angegeben. ((s)…): Kommentar des Einsenders. Übersetzungen: Lexikon der Argumente
Der Hinweis [Begriff/Autor], [Autor1]Vs[Autor2] bzw. [Autor]Vs[Begriff] bzw. "Problem:"/"Lösung", "alt:"/"neu:" und "These:" ist eine Hinzufügung des Lexikons der Argumente.
Dragan, Anca

Brockman I
John Brockman
Possible Minds: Twenty-Five Ways of Looking at AI New York 2019

Send Link

Autoren A   B   C   D   E   F   G   H   I   J   K   L   M   N   O   P   Q   R   S   T   U   V   W   Y   Z  


Begriffe A   B   C   D   E   F   G   H   I   J   K   L   M   N   O   P   Q   R   S   T   U   V   W   Z