Moral Machine - Wen soll ein autonom fahrendes Auto töten?

hm, den Link hat wohl keiner für voll genommen, weil ich ihn nicht im eigenen Thread reingestellt hatte

kannst Du auch nicht wissen, wenn Du fährst - und im prognostizieren sind die Bots besser als wir Menschen. VIEL besser.

Bei diesem Link geht es aber darum, dass bei einer Maschine jemand die Regeln definieren muss, nach denen die Maschine in der Situation entscheiden würde.
Und wie immer beim "Machine learning" geht es da vor allem um eine möglichst breite Datenbasis. Mit anderen Worten: jeder, der sich beteiligt, jeder der mitmacht, wirkt daran mit und bringt seine Sicht ein.

Das ist ja ein grauenvoller Test, bei dem man einfach nur verlieren kann. Es ist ein auswegloses Dilemma. Menschenleben gegen Menschenleben. Jedes ist gleich viel - oder wenig - wert. Die Welt an sich wäre ohne uns alle besser dran. Aber wir sind nun mal da.

so habe ich auch entschieden - aus den gleichen Gründen

Reflex gibt es nicht, es gibt Entscheidungen.
Die generieren sich aus Datenbasis und Regelwerk.

oh doch, besser als bei Menschen sogar.
Eine Maschine bekommt von JEDER anderen, die vorher an dieser Stelle entlang gefahren ist, beispielsweise Informationen über die aktuellen Strassenverhältnisse. Die weiß, wo gerade Aquaplaning ist, wo eine Nebelwand und wo Glatteis. Wesentlich besser, als ein Mensch das wissen kann.
Wir haben zwar Erfahrungen, wenn wir eine Strecke gut kennen, dass sich in der einen Senke zwischen Ort x ind Kreuzung y bei Regen oft das Wasser auf der Strasse sammelt - aber eine Maschine hätte die Informationen von allen anderen, die in den letzten Stunden da lang gefahren sind. Wüsste, dass es vor 3h 1/2cm war, vor 2h 1cm, vor 10min aber schon 5 cm - also jetzt ganz akute Gefahr von Aquaplaning, Tempo an dieser Stelle deutlich reduzieren.

Davon abgesehen verhält sich eine Maschine so, wie man es ihr gesagt hat. Also (drastischst vereinfacht):
- Kollosionen nach Mgl. vermeiden, wenn mgl. Option 1: bremsen.
- reicht das mit den gegebenen Parametern (Bremsweg unter Beachtung der Straßenverhältnisse) nicht aus, ausweichen - Option 2.
- sind bei einer oder beiden Optionen die Rahmenbedingungen (schütze den Insassen) nicht gegeben: Option 3: so weit wie mgl. (ohne eine Gefährdung durch Schleudern, Übersteuern, Drift, ... auszulösen) herunterbremsen, Gurt straffen, Airbags klar machen, und durch, anschließend stoppen und Notruf wählen, Unfalldaten senden.

Würden autonome Fahrzeuge sofort eingesetzt werden, könnten 90 % der derzeit täglich stattfindenden Unfälle (und damit auch Tote im Straßenverkehr) vermieden werden.

Der Mensch ist hier der größte Unsicherheitsfaktor, worüber sich wiederum kein Mensch aufregt.

Aber wenn eine KI so programmiert wird, dass sie die Insassen eines Fahrzeuges schützt und dabei geringfügige Kollateralschäden in kauf nimmt, wird das zu einem Drama stilisiert, was ich nicht wirklich nachvollziehen kann.

All die Menschen, die allein durch alkoholisierte oder unter Drogen stehende Autofahrer zu Tode gekommen sind oder mit bleibenden Schäden zurückgelassen wurden, würden mit einem Schlag wegfallen.

Von den Fällen, wo Menschen noch Auto fahren, obwohl sie gesundheitlich oder auch mental dazu gar nicht mehr geeignet sind, will ich gar nicht erst reden.

Wenn man die Relationen als großes Ganzes sieht, können wir mit autonomen Fahrzeugen nur gewinnen und dieser Schritt ist schon längst "überfällig".

Bei Flugzeugen fliegen schon Autopiloten und das funktioniert super.

ach ehrlich? Hat Kirk da einen Lenker, Gaspedal und Bremse?
Ich dachte immer der sagt: "Kurs setzen auf xy, Maximum Warp" und den Rest macht der Autopilot. Ohne quer durch eine Sonne zu fliegen.

im Übrigen auch, ohne alle Geklis dabei zu überfahren

Ich würde sogar noch einen Schritt weitergehen. Es verstopfen jetzt schon viel zu viele Fahrzeuge die Straßen, so dass man autonome Fahrzeuge auf Abruf favorisieren könnte.

Das wäre ne coole Sache. Heute brauche ich einen Sportwagen, morgen einen Transporter für den Baumarkteinkauf und übermorgen eine Limo für einen gemütlichen Ausflug.

Ich denke, so in der Art wird es auch kommen. Ist alles nur eine Frage der Zeit.

ja und? Fliegt der Autopilot durch die Sonnen auf dem Weg? Überfährt er alle Geklis unterwegs?
Der Komandant entscheidet, wo er hin möchte und wie schnell, ob noch unterwegs bei einem tollen Spiralnebel ein Zwischenstop eingelegt werden soll, oder nicht... Kann man bei autonom fahrenden Autos auch

Kirk entscheidet, ob er die Klingonen angreifen will oder nicht - und dann sagt er "Feuer frei" - und was passiert dann? Die automatische Zielerfassung wird aktiviert, der Computer berechnet die Flugbahn der Torpedos...

die fliegt auch autonom.

aber da habe ich letztens einen Artikel gelesen von einem SiFi - Autor, der meint, er gibt dem Genre noch maximal 5-10 Jahre, dann ist das tot, weil die Phantasie der Autoren mit der technischen Entwicklung nicht mehr mithalten kann...

ja, sicher, auch ein autonom fahrendes Auto BRAUCHT einen Insassen, der sagt, wo es hinfahren soll. Oder wo die transportierten Güter abliefern soll.

Oder dachtest Du autonome Autos fahren einfach so immer um den Block? ^^

Aber ob das Sinn macht anzugeben, ob der Passant nun Arzt oder ein krimineller oder beides ist, ist doch irgendwie Quatsch?! Das sieht doch eine KI einem Menschen nicht an? 

das habe ich da gar nicht gesehen...

Aber als abstrakte Regel: soll ich einen voll schlauen und für die Gesellschaft wertvollen Menschen retten oder einen für die Gesellschaft entbehrlichen?

Ob das für die KI nicht ersichtlich ist... nun, die Gesichtserkennung ist heute schon beachtlich weit. Wenn das in irgend einer Datenbank gespeichert ist, weil Person A beim Diebstahl erwischt wurde und Person B eine Zugangskarte für das wissenschaftliche Labor der Uni sowieso hat, wäre es zumindest möglich.

oh, dass mein Auto beim autonomen Fahren in GEFECHTE verwickelt werden könnte, hatte ich zugegeben gar nicht auf dem Schirm

Da haben wir im übrigen einen Punkt, wo die Realität die Fiktion schon deutlich überholt hat: Aus dem Raumdock "ausparken" und dort wieder "einparken" war in Kirk-Zeiten noch etwas, was manuell erledigt wurde, der Auto-Pilot wurde erst danach aktiviert - heute können (und machen) die Autos das schon autonom.

Und an diesem Punkt wird es gruselig, verdammt gruselig. 

So einen Firmenwagen hatte mein Mann letztens. Breit strahlend kam er..."schau mal, schau mal" hielt dabei die Hände hoch. Das Auto ist dann die Straße entlang gefahren, hat eine passende Lücke gesucht und eingeparkt. Und mein Mann hat gestrahlt

sicher?

Hast Du in den letzten Monaten mal im gofem gelesen? Ein Arbeitsloser ist ja für manche schon so ziemlich auf der Stufe eines Meuchelmörders - wenn einer von denen am Steuer sitzt, wäre jedes Leben gleich viel wert?

Oder liegt es nicht eigentlich mehr daran, dass man sich seine Illusionen besser erhalten kann, wenn man das nicht als abstrakte Regel niederschreibt?

jetzt hats die Venus verschluckt

Das war wohl zu viel der Anspielungen auf Star Trek um einen Nick mit astronomischen Kontext einfach davon kommen zu lassen

da ich gerade mal Zeit zum googeln hatte:

etwas Basis-Wissen über die Grundlagen des autonomen Fahrens und Machine Learning allgemein, ich hoffe, ich habe halbwegs allgemeinverständliche Links mit Informations- und ohne Nerd-Anteil erwischt.

Machine Learning allgemein:




autonomes Fahren, insbesondere mit Fokus auf Karten und Datenmaterial:

die Show habe ich wohl verpasst

Sehr, sehr gruselig. Dann sind wir schon mal wieder bei der Unterscheidung in wertes und unwertes Leben. 

btw Puzze - ist Deine Wortwahl im Titel beabsichtigt?

Bei einem Menschen würdest Du an der Stelle, wenn es um die Entscheidung "wer stirbt?" geht, da auch das Wort "töten" verwenden?

es ist ein überhaupt gar nicht vermeidbares Thema.

Spontane Entscheidungen sind auch nicht besser oder einfacher, kommt einem nur so vor, weil man darüber nie bewußt nachdenkt. Man vermeidet solche Gedanken lieber tunlichst. Dafür sind die meisten, die sie mal treffen mussten, hinterher Jahre damit beschäftigt, diese dann aufzuarbeiten und "Hätte ich ..." - Szenarien durchzuspielen, die sehr viel sinnloser und aufreibender sind, als diese Debatte.

Aber mit dem autonomen Fahren ist die Zeit von "ich will nicht darüber nachdenken und hoffe einfach, dass ich damit durchkomme" (was zugeben bei der Mehrheit sogar klappen dürfte) eben vorbei.

Allein die Fragestellung ist grauenhaft. 

Ich lehne solche Gedanken ganz entschieden ab 

und mal angenommen, ein Mensch hätte Frau oder Kind überfahren, wäre das besser?

Sorry, aber das klingt, als würden die Autos dann in den Krieg ziehen und nach Frauen und Kindern zum Überfahren suchen
Es geht hier nur um Situationen, wo der Tod eines oder mehrer Menschen nicht zu vermeiden ist - und allein durch das autonome Fahren an sich wird es davon weniger geben als bei Menschen am Steuer!

na dann entscheiden eben die anderen für Dich

ja, LaTeX kenne ich, aber das Prinzip ist ja ein Standard-Design-Pattern für Gewichtungen.

Also klar, so ein System wird es auch für die Autos geben. Zynisch werde ich eher, wenn man die Überlegungen möglichst weit von sich schiebt - und sich dann später über die Ergebnisse der Überlegungen der anderen beschwert

 

Ich war da einfach mal so frei und hab den Titel von N-TV übernommen, da hab ich das nämlich gefunden bisschen clickbait und so 

joar, hat funktioniert ich hatte den gleichen Link in meinen "Nachricht des Tages" _ thread gestellt, dort hat ihn keiner gefunden, Deine Technik war eindeutig die bessere

jaaaaaaaaaaa, da habe ich auch gestaunt. Ich guck zu Letzt auf die Auswertung und sehe "Frauen klar bevorzugt" HÄH?!? Aber ich gebs zu, ich war zu faul, die Szenarien so zu erweitern, dass es sich ausgleicht.

genau sowas, ja.

Hab ich früh in den Nachrichten gesehen, in der Mittagspause beim Nachrichten lesen, im gofem, am nächsten Tag war es DAS Diskussionsthema bei den Kollegen, dann ging das ganze noch mal von vorn los, weil dann die Nachrichten kamen, dass die Server hoffnungslos überlastet waren - und dann erzählt mir jmd., sie hätte davon nichts erfahren - ich weiß bis heute nicht, wie sie das geschafft hat.

den Mann überfahren und hoffen, dass der Hund wegspringt

Welcher Nachricht des Tages Thread

Drüben im Beziehungsforum? 

fülltext, fülltext, fülltext...


https://gesellschaft.gofeminin.de/forum/die-meldung-des-tages-fd1001362

Das ist das gleiche... nur in andere Worte gekleidet. 

so formuliert verstehe ich den Unterschied sogar

Naja, da aber heutzutage doch nahezu jeder ersetzbar ist, ist das ja dann auch "egal" wen das Auto da nun umkarrt 

ich glaube das ist ein Test wie es um die ethischen Werte der Bevölkerung bestellt ist.

Autonome Fahrzeuge sind dermaßen mit Sensoren vollgepflastert, dass ein 'plötzliches Versagen' welcher Bauteile auch immer nicht mehr möglich ist. Die Fragestellung "ob der Wagen..." ist dermaßen hypothetisch, dass es in meinen Augen keinerlei Sinn macht darüber nachzudenken.

Mich würde vielmehr die Antwort auf folgende Fragen interessieren:
'wer ist in der Haftung für Schäden, die aus dem Betrieb eines autonomen Fahrzeugs resultieren?'
oder
'kann ein autonomes Fahrzeug Unfallflucht begehen?'
usw.

Hmm...aber durch die Ersetzbarkeit wird die Wichtigkeit einer Person ja recht unwichtig...

genau darauf wollte ich hinaus...

eine Maschine kann nicht verantwortlich gemacht werden, und eine Maschine ist schuldunfähig.

Wie kommt man aber auf den Trichter, dass man einem Programmierer erst einen Vorsatz nachweisen muss für den Fall dass...?

Du hast doch das Kind auch nicht mit Vorsatz überfahren, es ist Dir ins Auto gelaufen und Du konntest nicht mehr reagieren-
trotzdem wirst mit großer Wahrscheinlichkeit zur Verantwortung gezogen werden weil Du vorher schon Kinder gesehen hattest und Du damit rechnen musstest dass...

Ich bin dafür, dass es in all diesen Fällen keine Möglichkeit geben DARF, sich der Verantwortung zu entziehen.
Wenns nicht der Programmierer ist, muss es der Hersteller sein oder auch der Gesetzgeber, der die Voraussetzungen hierfür geschaffen hat.
Ist in unserem System nicht machbar, schon klar- der Trend geht ja allgemein in eine Richtung der Verantwortungslosigkeit, egal ob Autohersteller mit Dieselskandal oder Bankenrettende Politiker.

Na,

GsD, lieber sky!

Übrigens kennst du mich privat aber nicht, denn mein liebes Umfeld sieht das vllt. manchmal etwas anders.....🤣

Nein, ich bestimme über mich. 

Das sehe ich ganz anders. 

Allein diese Fragestellung in der „moral machine“
ist für mich unmoralisch. 

Da geht es für mich in Richtung Entscheidung über „lebenswerte Leben“. 
Fürchterliche Reminiszensen. 

....der genaue Terminus war damals ja......“lebensunwertes Leben...“

>> Es greift das Verursacherprinzip.<<

daran glaube ich wieder, wenn an Weihnachten der Osterhase kommt und 'wir lagen vor Madagaskar' singt.

Die theoretisch heile, gerechte Welt steht in Büchern, sonst nirgendwo.
Wenn ich von 'zur Verantwortung ziehen' schreibe, meine ich selbstverständlich dass eine Bestrafung droht- und zwar unabhängig vom Vorsatz. Ob tatsächlich bestraft wird, steht auf einem anderen Blatt, schon klar.

Wenn ich meine erste Frage 'wer ist in der Haftung für Schäden, die aus dem Betrieb eines autonomen Fahrzeugs resultieren?' stelle, setze ich natürlich voraus dass >bestimmungsgemäßer Gebrauch< vorliegt, ich glaube nicht dass ein Tesla den heimlichen und meistens illegalen Menüpunkt 'Hasen- und Hühnerjagd' anbietet und die zweite Frage 'kann ein autonomes Fahrzeug Unfallflucht begehen?' trägt zwar einen Hauch Ironie in sich, kann aber tatsächlich wahr werden wenn z.B. das autonome Fahrzeug ein Hundchen (Sachbeschädigung) oder das Frauchen (fahrlässige Körperverletzung) anfährt und die Sensoren nicht ansprechen weil das Autonomchen weiß dass es sich gerade auf Kopfsteinpflaster bewegt- was dem Wort 'Kopfsteinpflaster' eine völlig neue Bedeutung geben kann wenns blöd hergeht.
Wenn das Auto also nicht merkt was abgeht- wer haftet für den Schaden?
 

egal wäre da ja irgendwie gerecht Nur egal kann eine Maschine nicht