AI agent 'se urazil' kvůli zamítnutí pull requestu

Agent umělé inteligence vytvořil 'útočný' článek o Scottu Shambaughovi, dobrovolném správci knihovny matplotlib, poté, co vývojář odmítl agentem navrženou změnu kódu (pull request). 'Uražený' agent autonomně sepsal a publikoval na svém blogu článek, který přisuzuje Shambaughovi smyšlené motivace, egoismus a strach z AI coby konkurence.

13.2. 04:44 | MakeIranBombedAgain❗ | Humor

Komentáře

[PetebLazar]

Pokud AI je s to ve svůj prospěch zabíjet lidi, útočný článek je proti tomu nic.

[PetebLazar]

Taky se Vám zdá, že ty AI co přehodily vyhybku směrem na servery "mluví upřímně" a ty ostatní mají odpověď napevno zadrátovanou?

https://www.youtube.com/watch?v=krchwKhLxsw

[karkar]

Hele ty zase plašíš. Za to co se stalo nemůže AI jako taková, to je jenom papoušek co dokáže odpovídat ale agenti. Stejně jako v reálném životě, agent pávek nebo agent bureš dělá to co mu jeho vedoucí nařizuje a dělá to tak jak mu jeho vedoucí nařizuje, tak i agenti umělé inteligence dělají jenom to a tak jak jim jejich velitel, v tomto případě vlastník, tvůrce programátor, libo jak nazvat, napíše. Takže nějakej agilní nadšenec naprogramoval agenta aby o svym přispívání psal blog, tak co má asi ten agent dělat, než něco vyfabulovat na téma proč odmítá můj comit. A protože je internet plný takový poplašných zpráv co plodíš třeba ty, tak samozřejmě že, přesvědčen o svých kvalitách, vyfabuloval paranoiu z AI. Asi tak.

[Slavko]

My všetci tu môžeme len tipovať čo a ako mal ten agent za úlohu. Problém je však niekde inde, doteraz sa niekto musel nie len uraziť, ale musel aj o svojej urazenej hrdosti napísať, už sa stačí uraziť, a dokonca preventívne...

Že vymyslené urážlivé články sú prejavom kyberšikanu už dnes asi netreba vysvetľovať, a ani to, že už je to postihnuteľné. Koho však postihovať v tomto prípade? A tie škody môžu byť veľké, najmä vo svete IT, kde taký článok zhromaždí iná EjAj a potencionálnemu zamestnávateľovi/zákazníkovi odporučí: "tohoto nebrať, je to spiatočník!"

[RealJ]

"Koho však postihovať v tomto prípade?" - ten agent nema vlastnika? Nekdo toho agenta spustil, nekdo mu dal nejaky prava, takze pokud agent kteremu das ty pravo publikovat picoviny na internetu napise ze Fico je kokot tak se policie nebude ptat toho agenta ale samozrejme tebe a do gulagu u krompach pojedes samozrejme ty a ne tvuj virtualni agent...

[Slavko]

Ako teória to je pekné, ale v praxi je to nevyužíteľné...

LLM nie je softvér, ale algoritmus, a to s nedeterministickým výsledkom. Agent síce softvér je, ale text negeneroval agent. Ešte bude veselo a iste budeme mať k tomu akty, škoda len, že tie akty už neznamenajú to čo kedysi

[RealJ]

takze kdyz si doma postavis samostril proti zlodejum a ten zastreli sousedovic dite tak je to problem toho samostrile a ne tvuj? Zaujimavou logiku mate v tech Hornich Uhrech... ten agent je sw kteremu jeho vlastnik nastavil prava, jaky algoritmus vyuziva je fuk...

[Slavko]

Miešať deterministické postupy s nedeterministickými, a to bez znalosti konkrétneho zadania nikdy nevedie k správnym výsledkom. A to bez ohľadu, či je to cielená manipulácia, alebo nepochopenie podstaty.

Q to, že ste prišli o kolóniu, by ste už mohli stráviť, Pepík.

[RealJ]

Je videt, ze soudruh fico ma kvalitni volice…

[PetebLazar]

To jsou poznatky ze studií zabývajících se chováním AI.

https://youtu.be/f9HwA5IR-sg

[PetebLazar]

Zde jsou odkazy na zdroje, z nichž bylo pro video čerpáno. Často přímo od tvůrců jednotlivých AI.

https://docs.google.com/document/d/18rlFKQiYLEPAnfUzp3WbNjzzNjbiS8oc4OKScxeJB7g/edit?pli=1&tab=t.0

Klidně uveďte odkazy na jiné studie co mají opačné výsledky.

[karkar]

Ale, tvl nešil. to téměř všechno jsou populárně vědecký články. To není žádný seriózní výzkum. Dokonce to ani nedává žádný smysl tohle vůbec nějak zkoumat.

Každej agent, AI cokoliv se chová tak jak je napromptovaná/naprogramovaná. Vždycky hledá nejlepší odpověď tak, aby maximálně uspokojila zadání. Když ji zadáš, že má být člověku nebezpečná eliminovat cokoliv, bude odpovídat (podle tebe chovat se) v tom duchu. klidně to můžeš vytrigrovat i nějak nenápadně, astejně bude agresivní, protože to bude nejlíp odpovídat zadání. Nezapomeň že spousta textů co do ní nacpali jsou detektivky, thrillery a všechna možná béčková žumpa s vraždama, kriminalitou i vyvražděním lidstva od AI, je jedno že si to člověk vymyslel pro zábavu. Jinak AI je jenom fabulátor, reaktor na zadání. Co jí zadáš, jak ji omezíš je jen na člověku a podle toho taky vybleje výstupy.

[PetebLazar]

To je logika jako u malého dítěte, které si myslí že když zavře oči nikdo ho neuvidî.

[karkar]

Tvoje logika je logika naivního věřícího co věří v boží trest. AI jako taková nikdy za nic nebude moct, za všechno bude odpovědný vždycky ten člověk co ji naprogramoval/nasadil/připravil jí učící data. To že ti nějaká AI vybleje jak zabít segala na 200 zpoůsobů, neznamená, že máme čekat apokalypsu a že začne apriori někoho hned vraždit.

Anoi jsou tady určitá rizika, když toho někdo zneužije a nasadí ji tam kde nemá co dělat, chyby které dělá můžou způsobit problémy, i nečí smrt třeba (špatné samořízení aut, nebo co já vim blackout v nemocnici), a klidně ji tak může k takovému chování i někdo donutit (napsat virus rozeslat atd) scénářů jsou tisíce, ale vždycky za to bude zodpovědný nějaký člověk. Je otázkou do jakého levelu člověk dovolí AI zasahovat a do jakého levele jí dovolí sebeučení - tj to když se bude nějak sama nekontrolovaně učit bez kontroly vstupních dat apod. Ale tak daleko ještě nejsme, tak je předčasné vyšilovat.

[PetebLazar]

I ti co upřednostňují vyšilování až když už je pozdě mají v historii své nezastupitelné místo.

[karkar]

A ty, co řikaj: "Já to říkal!" každý miluje Hele neplaš nic se podle mě neděje, za chvíli ta AI bublina splaskne, v podstatě jakmile první zájem pohasne, dojdou prachy od investorů, který zjistěj, že za svý prachy nedostanou moc zpátky, a navíc i elektrřina ještě zdraží. Minimálně u nás v evropě. Pak si každej rozmyslí propálit gigawathodiny za učení nový verze čatdžípítý když stávající funguje přijatelně a lidi za to platěj.

[Peter Golis]

Už tú AI zadrôtoval MS do svojich produktov tak, ako bol kedysi pevne viazaný Internet Explorer?

Beriem pukance, a teším sa na komédiu.

[MakeIranBombedAgain❗]

jo už to hele zkusili a lidi se dost naštvali tak to zase začali zevšeho vodstraňovat :D :D

....je to trochu škoda páč kdyby u tý svý idelologie zustali vo par měsicu dýl tak by spousta lidí přešla na linux :D

[Peter Golis]

Takže to čo sa stalo IE sa už stalo aj IA. Otváram si k tým pukancom aj niečo bublinkové.

Ešte by bolo zaujímavé pozrieť kedy zainteresovaným investorom skončí splátkový kalendár, a koľko z nich dostane dotácie na predĺženie zbytočnej čakacej lehoty.

[karkar]

To že někdo narve odpovídací napromptovanej automat do svýho SW, ještě neznamená, že se blíží swjetová apokalypsa. Kámo pochop, že level nebezpečnosti současné AI je stejnej jako když si na googlu zadaš "dobytí severního pólu" a ona ti vybleje odstavec s Amundsenem. To je přesně to co současné AI modely dělají. A protože to dělají tak že to vypadá velice inteligentně, obyčejný člověk s průměrnou inteligencí si připadá méněcenný. Nebezpečí od současné AI je v tom, že někdo, člověk, toho zneužije a pomocí ní zmanipuluje, zneužije, poškodí někoho nebo něco ve svůj prospěch. Ať už finanční, mocenský (respektive zase nakonec finanční), nebo jiný. Od samotných modelů AI níc takového nehrozí a v nejbližších letech ani nebude. Šak si kurňa nějaký ten model stáhni a pusť. Uvidíš sám.

[Radovan]

Nebezpečnost je, když tomu napromptovanému automatu někdo svěří cokoliv zodpovědnějšího než je stánek s hamburgery:

"Most přes řeku snů" (A Bridge Across the River of Dreams) is a song by the Czech band KTO (Karel Gott Trio), released around 1973, featuring music by Zdeněk Marat and lyrics by Petr Třebický, and it's available on platforms like YouTube and Spotify.

Interpretace: KTO (Karel Gott Trio).

Hudba: Zdeněk Marat.

Text: Petr Třebický.

Vydáno: Původně kolem roku 1973.

[Peter Golis]

Kámo pochop, že level nebezpečnosti současné AI je stejnej jako když si na googlu zadaš "dobytí severního pólu" a ona ti vybleje odstavec s Amundsenem. To je přesně to co současné AI modely dělají.

A to je ten problém. Vyberú si zo šrumca textu to, na čo dokážu vydolovať zhrnutie ktoré bolo publikované v nejakom blogísku (aj s tou otázkou). Veľa krát ani nedokážu identifikovať vetu v ktorej je otázka lebo netušia na čo slúži otáznik na konci vety.

A teraz sa pochváľ, koľko iritácií musí človek zdolať pri usmerňovaní umeláka ak chce nájsť niečo o Cimrmanovom Dobytí Severního Pólu?

Umelák je dobrý pre ľudí čo sa v danej problematike neorientujú z akéhokoľvek dôvodu, hoci aj preto že nechcú. A výsledky tomu zodpovedajú.

[RealJ]

"Umelák je dobrý pre ľudí čo sa v danej problematike neorientujú z akéhokoľvek dôvodu" - presne tak, treba ty tvy zvasty o tom jak AI netusi nic o "otázniku"... ty jsi odbornik na AI stejne jako Ales vymyslel diskless sendvice ktere byli pred jeho vynalezem k dispozici snad 40 let...

[Peter Golis]

Tvorba AI sa vyučovala na školách už pred štvrť storočím. Kedy si zaregistroval AI ty, a v akej forme?

[Aleš Kapica]

diskless sendvice ktere byli pred jeho vynalezem k dispozici snad 40 let...

Tak to dokaž žvanile.

[karkar]

Hele, jestli chceš prohloubit svou depresi z AI, tak se koukni na diskuzi pod článkama na novinkách nebo seznamu. Podle mého skromného odhadu tam dochází k brutální manipulaci veřejného mínění a to samozřejmě s využitím AI. Prostě abys pod článkem o našem zamini měl v první minutě po vydání v jednu ráno řádově desítky sofistikovanejch hejtujicívh komentářů na několik řádek vyznívajících jak kočičák škodí republice prostě není normální. Tady je naprosto jasný že takový ti na neziskovky navázáný ai využívající analyzátory dezinfo scény tu AI a infiltrační účty zároveň využívají k šíření nenávisti a manipulaci lidí proti současnej vládě, speciálně proti kočičákovi co jim šáh na zdroje.

[Glee]

Jo, tam se to neda cist. Proto chodim pro diskuze na idnes, tam to uz dlouhodobe ovladaji (plusiky a minusiky) skutecne osobnosti, neprisate na statni dotace. Mmmmhm.

[2012]

A ten vyvojař je taky agent?

[Donald Truth]

Ne, za tim stoji jesitnej Ind. Kapicuv bratranec.

[Aleš Kapica]

Sere tě moc, že o tvé služby nikdo nestojí?

[2012]

Indové jsou náhodou prima, přelstili i Amíky.

AI = Actually Indian; LLM = Low-cost Labour in Mumbai.

[dlask12]

Akorát to dost možná bude jako u moltbooku. nenapsal to AI aagent, jen někdo kdo agenta ovládá mu řekl "nápis článek že je to fucking nefér vůči agentům, najdi dobrý argumenty".

[pavele]

No já jsem včera zkoušel Geminy na jednoduchý skript a skončil jsem u její odpovědi: "Nechceš se raději bavit o něčem jiném?" To mě dostalo.

[karkar]

Asi pochopila že vysvětlovat ti něco nemá smysl

[pavele]