Projekt comma.ai: comma two a openpilot 0.7 (diskuse)

[David Heidelberg]

Hezké, doufám, že třeba za čas začnou stavět na PinePhone či jiném nativně linuxovém telefonu.

[B]

Já zase doufám, že toho diletanta a tu jeho firmu zavřou dřív, než se někdo zabije.

[David Heidelberg]

myslíš Elona nebo Geohota?

Autopilot v Tesle, tak ani tahle hračka netvrdí, že můžeš přestat dávat pozor při řízení. A pokud se jedná o nějakou kritickou situaci, řidič musí převzít řízení. Co se týká rizika, že by ti to nějak do řízení potom zasahovalo, co si vzpomínám, tak se to právě v takovýchto momentech naprosto deaktivuje.

To je jako kdybys nasadil nový open-source projekt do firmy a nezapnul monitoring s tím, že to bude fungovat... Nikdo mentálně zdravý něco takového neudělá.

[Bedňa]

Pracuje sa na plne autonómnych autách, kde sa bude umelá inteligencia rozhodovať, či zabije troch chodcov, alebo teba ako cestujúceho, keď budeš vo vozidle sám. Neviem prečo, ale ževraj zatiaľ také vozidlo nikto nechce

[B]

Tyhle "morální dilemata AI" vymýšlejí novináři a různí "experti", kteří dané problematice nerozumí. Počítač nemá žádný problém přizpůsobit rychlost vozidla stavu vozovky, počasí atd., aby vozidlo zabrzdilo dřív než někoho zabije. BTW: A zavřít bych nechal všechny tři.

[Jendа]

Počítač nemá žádný problém přizpůsobit rychlost vozidla stavu vozovky, počasí atd., aby vozidlo zabrzdilo dřív než někoho zabije.

Tobě nikdy před vozidlo nezahnul chodec jen tak znenadání, nevyběhl zpoza zaparkované dodávky atd.?

[B]

Přestaň vymýšlet hovadiny a jiná "morální dilemata AI". Pokud máš řidičák, tak bys měl vědět, že máš povinnost přizpůsobit rychlost vozidla stavu vozovky. Tím stavem vozovky je myšlena taky ta zaparkovaná dodávka nebo ten ožrala na chodníku. Takže pokud ten počítač programoval někdo kdo tomu rozumí, tak to autonomní auto přibrzdí a pojede třeba 30, i když je tam padesátka, a žádné "morální dilema AI" se nekoná.

[Jendа]

Ve 30 nejde chodec zabít? Já myslím že v pohodě dokážu zabít i ve 20.

[B]

Co nechápeš na "... přizpůsobit rychlost vozidla ..., aby vozidlo zabrzdilo dřív než někoho zabije" ?

[Fluttershy, yay!]

Řídící software, stejně jako živý řidič, pracuje s přibližným modelem světa, a to založeným na smyslových vjemech (zde senzorech – interních, nebo také externích, např. družice).

Problém tedy nastává v situaci, kdy jsou dostupná data nedostatečná či chybná. Takové situace nevyhnutelně nastanou. (Byť třeba méně často než s lidským řidičem.)

Sofistikovanější scénář je takový, kdy je nutné vážit protichůdné požadavky. (Např. záchranka potřebuje dorazit do cíle co nejrychleji, ale zároveň bezpečně, což je nezbytně kompromis.)

[Jendа]

Problém nastává především v situaci, kdy se na silnici pohybují i objekty, které samořízení (pokud možno ještě se vzájemnou komunikací, aby se samořízená vozidla dohodla) nemají a dělají chyby/porušují předpisy. A to se dokud nezakážeme chodce a cyklisty dít bude.

[Fluttershy, yay!]

Chování chodců/cyklistů/… je v principu možné předvídat bez ohledu na pravidla silničního provozu. (Byť trend je opačný, tedy izolovat vozidla neřízená bezprostředně člověkem např. do zvláštních pruhů, a tak snížit dimensionalitu dat; to se vlastně již stalo dříve: cyklisté a chodci byli vykázáni z dálnic.)

Jenže co když si řešení situace žádá porušení pravidel silničního provozu? Lajzne si výrobce dodat software, který explicitně počítá s porušením zákona? Čímž se dostáváme k oné údajné „autonomii“, tj. snaze výrobců zbavit se tohoto právního břemene.

[Jendа]

Nechápu na tom to, jak s takovou podmínkou budeš v praxi jezdit. Chodec se ti tam vrhne 2m/s, vteřinu na manévr určitě potřebuješ (i pokud počítač zareaguje okamžitě, musí provést ty mechanické úkony), takže můžeš jet pouze uprostřed 5 metrů širokého prázdného pruhu. A to je málokde. Stejně tak když jedeš po hlavní a na vedlejší někdo stojí, budeš vždy počítat s tím, že se ti tam může na poslední chvíli svým maximálním zrychlením vrhnout? A můžeš předjet cyklistu, když musíš počítat s tím, že kdykoli zabočí doleva?

[Chulda]

K tomu mám jednu otázku - kdo bude platit pozůstalým odškodné, pokud se ukáže, že se takový auto vyhnulo figuríně nebo siluetě a nikoli skutečnému chodci? Žádná firma si to na triko nevezme, takže není důvod se zajímat o teoretické problémy.

Nehledě na to, jak už bylo uvedeno - počítač by se do takové situace neměl dostat (nebude jezdit kilem po městě nebo na červenou)

[JeChW]

Počítač se samozřejmě do takové situace nedostane vlastní vinou (pokud neudělá chybu). Ale dejme tomu, že Tvému autu nedá jiné auto přednost, mimo přechod před něj vběhne chodec nebo vjede cyklista.

Nicméně v tomhle okamžiku nevidím žádné morální dilema. Pokud už auto nebude schopné srážce zabránit, musí maximálně chránit svoji posádku a nesmí (pokud možno) ohrozit nevinné. Tím pádem zda žádné dilema neexistuje.

[Bedňa]

Nie, nie, AI vyhodnotí, že zabiť teba je menšia škoda a spraví to. Nebude chrániť svoju posádku, ale ľudí. Nikto ťa nenútil do toho vozidla sadnúť, máš nohy, nie?

[Fluttershy, yay!]

Pracuje sa na plne autonómnych autách, kde sa bude umelá inteligencia rozhodovať, či zabije troch chodcov, alebo teba ako cestujúceho, keď budeš vo vozidle sám.

Ne, nepracuje. Označení „autonomní“ je lež, kterou se výrobci snaží zbavit odpovědnosti za důsledky.

„Autonomie“ totiž něco znamená.

Slovník cizích slov

autonomie: funkční samostatnost, nezávislost, samospráva, svébytnost

autonomní: nezávislý, spontánní, samovolný, související s autonomií, samosprávný

Autonomní je šofér – který tě může odmítnout svézt, odvézt někam jinam atd.

Ale tyhle prý-autonomní systémy zdaleka nejsou autonomní: řídí se předprogramovanými heuristikami, ať už explicitními, nebo extrahovanými z trénovacích dat dodaných výrobcem – pak je to opět výrobce, kdo vybral data a zvolil datový model.

Připomeňte se, až si auto ve volném čase stáhne např. knihovničku rozličných filosofických textů a vybere si vlastní filosofii – nebo s ní přijde na zelené louce – a začne se podle toho chovat.

[Bedňa]

Toto ošetria zákony a tie budú implementované. Či sa to niekomu páči alebo nie, bude sa rátať počet potencionálnych obetí, nebudú chrániť cestujúceho ako hlavného nedoknuteľného.

Autonómne vozidlá: Je to jedna z ciest ako vyriešiť dopravu vo väčších mestách, nemyslím CZ, SK, to ešte potrvá. Mno zrovna teraz som v meste kde je aj s okrajovími časťami 3,3mega ľudí a nejaké samovozidlá by to doprave dosť uľahčili. Teda myslím nejakú mestskú sieť vozidiel aby každý nejazdil sám, ale by to vozilo ľudí vozilo ako bus a nikto neriešil parkovanie. Čítal som štúdiu, že až tretina áut po meste jazdí s tým, že hľadá parkovanie a verím tomu, páč toto je dosť problém vo väčších mestách.

[Fluttershy, yay!]

Takže pro pomalejší ještě jednou: „autonomní“ vozidla neexistují, pokud se za vozidlo nepovažuje kůň (či jiné zvíře) – existovat nebudou přinejmenším do implementace AGI.

Existují vozidla fungující bez dozoru, a to na základě připravených heuristik/dat.

Pro sdílení vozového parku není potřeba ani jedno.

[Bedňa]

Takže pro pomalejší ještě jednou: „autonomní“ vozidla neexistují, pokud se za vozidlo nepovažuje kůň (či jiné zvíře) – existovat nebudou přinejmenším do implementace AGI.

Neexistujú, ale budú.

Existují vozidla fungující bez dozoru, a to na základě připravených heuristik/dat.

To je vlastne autonómia. AI alias neurální síte sa učí rovnako ako človek. Robil som prezentáciu aj s ukážkou kódu aby ľudia videli, že to funguje rovnako. Ukážeš AI dáta, ukážeš jej s z tých dát výsledky a ona sa naučí predpovedať výsledky aj na dáta ktoré nikdy nevidela.

Pro sdílení vozového parku není potřeba ani jedno.

A ako si to vozítko nájde samo najbližšieho pasažiera a ako tam dorazí samo?

[Fluttershy, yay!]

Existují vozidla fungující bez dozoru, a to na základě připravených heuristik/dat.

To je vlastne autonómia.

To není „vlastně autonomie“, pokud nevěříš v tvrdě deterministický svět.

AI alias neurální síte sa učí rovnako ako človek. Robil som prezentáciu aj s ukážkou kódu aby ľudia videli, že to funguje rovnako. Ukážeš AI dáta, ukážeš jej s z tých dát výsledky a ona sa naučí predpovedať výsledky aj na dáta ktoré nikdy nevidela.

Kdo rozhoduje, kterými (a jak předzpracovanými) daty tu síť nakrmíš? Ty.

A když se je nenaučí způsobem, který ti vyhovuje, tak ji ty zahodíš a zkusíš to znova.

(Uh, takže když se dítě učí „stejně“, ale nenaučí se to vyhovujícím způsobem, zabiješ ho a pořídíš si nové?)

A ako si to vozítko nájde samo najbližšieho pasažiera a ako tam dorazí samo?

Ke sdílení vozového parku to není potřeba.

[Fluttershy, yay!]

Autopilot v Tesle, tak ani tahle hračka netvrdí, že můžeš přestat dávat pozor při řízení. A pokud se jedná o nějakou kritickou situaci, řidič musí převzít řízení.

Uh, no, ano…

Namátkou:

In October 2016, Tesla CEO Elon Musk made a bold promise: One of the company’s vehicle’s would drive itself from Los Angeles to New York by the end of 2017 in what he dubbed a demonstration of “full autonomy.”

The trip, which received international attention, was announced in conjunction with Tesla disclosing all of its vehicles were being equipped with “full self-driving hardware” that would “be substantially safer than a human driver.” The company had previously spent a year testing the new hardware.

But the trip never happened and now – more than three years later – Tesla’s vehicles with its Autopilot driver-assist system still require driver monitoring. The system has also been criticized for allowing for driver misuse and its role questioned in at least three fatal crashes.

Tesla, GM and others hyped up emerging technologies in autos. Now they have to deliver (CNBC)