Philosophie Lexikon der ArgumenteHome | |||
| |||
Werteorientierung: Werteorientierung in der KI bedeutet, dass Systeme der künstlichen Intelligenz und ihre Handlungen mit den menschlichen Werten, der Ethik und den Zielen in Einklang gebracht werden. Siehe auch Künstliche Intelligenz, Werte, Ethik, Roboterethik, Robotergesetze._____________Anmerkung: Die obigen Begriffscharakterisierungen verstehen sich weder als Definitionen noch als erschöpfende Problemdarstellungen. Sie sollen lediglich den Zugang zu den unten angefügten Quellen erleichtern. - Lexikon der Argumente. | |||
Autor | Begriff | Zusammenfassung/Zitate | Quellen |
---|---|---|---|
Anca Dragan über Wertorientierung – Lexikon der Argumente
Brockman I 140 Wertorientierung/Dragan: Der ursprüngliche Gedanke war, dass wir für jede Aufgabe, die wir vom Roboter erledigt haben wollten, eine Belohnungsfunktion aufschreiben könnten, die das richtige Verhalten fördert. Leider passiert es oft, dass wir Brockman I 141 eine Belohnungsfunktion spezifizieren und das Verhalten, das sich aus der Optimierung ergibt, nicht das ist, was wir wollen. Stuart Russell und Peter Norvig geben in ihrem Buch 'Artificial Intelligence: A Modern Approach'(1) ein schönes Beispiel: z.B. führt die Belohnung eines Staubsaugroboters für die Menge an Staub, die er ansaugt, dazu, dass der Roboter beschließt, Staub auszuschütten, damit er ihn wieder ansaugen und mehr Belohnung erhalten kann. Lösung: Ein scheinbar besseres Paradigma könnte sein, dass sich Roboter für das, was wir intern wollen, optimieren, auch wenn wir Schwierigkeiten haben, es zu erklären. Sie würden das, was wir sagen und tun, als Beweis dafür verwenden, was wir wollen, anstatt es wörtlich zu interpretieren und als gegeben zu betrachten. Brockman I 142 Problem: [Es gibt eine Frage, die] die KI allein nicht beantworten kann: Wir können Roboter dazu bringen, zu versuchen, sich an den inneren Werten einer Person zu orientieren, aber es gibt mehr als eine Person, die hier involviert ist. Wie man die Werte dieser Menschen kombiniert, falls sie in einen Konflikt geraten, ist ein wichtiges Problem, das wir lösen müssen. Die KI-Forschung kann uns die Werkzeuge an die Hand geben, um Werte in jeder von uns ausgewählten Art und Weise zu kombinieren, sie kann aber nicht die notwendige Entscheidung für uns treffen. 1. Russell, S and Norvig P. 1994. Artificial Intelligence: A Modern Approach. Upper Saddle River NJ: Prentice Hall. Dragan, Anca, “Putting the Human into the AI Equation” in: Brockman, John (ed.) 2019. Twenty-Five Ways of Looking at AI. New York: Penguin Press._____________ Zeichenerklärung: Römische Ziffern geben die Quelle an, arabische Ziffern die Seitenzahl. Die entsprechenden Titel sind rechts unter Metadaten angegeben. ((s)…): Kommentar des Einsenders. Übersetzungen: Lexikon der ArgumenteDer Hinweis [Begriff/Autor], [Autor1]Vs[Autor2] bzw. [Autor]Vs[Begriff] bzw. "Problem:"/"Lösung", "alt:"/"neu:" und "These:" ist eine Hinzufügung des Lexikons der Argumente. |
Dragan, Anca
Brockman I John Brockman Possible Minds: Twenty-Five Ways of Looking at AI New York 2019 |