Copilot ma skutočne len povrchné informácie

4.8.2024 22:03 | Přečteno: 2497× | hardware | poslední úprava: 4.8.2024 22:03

Opýtal som sa Majkrosoftáckeho Copilota ako sa krstným menom volal doktor v seriáli Muneca Brava...

No a on mi drzo tvrdí že je to Federico, pričom Federico je predsa šéf tej stavebnej firmy, nie doktor. Doktor v epizóde 36 povie: "Call me Ruben. We've known each other for many years." na čo Federico odpovie "Okay. Ruben". Jak môže AI tak sprosto klamať? Veď predsa keď nevie tak nech povie že nevie. To už aj moja babka by mi lepšie poradila ako Copilot.        

Obrázky

Komentáře

[hefo]

A to je azda nejaká prevratná informácia, že LLM často odpovedá hovadiny a ani sa za to nehanbí (ako tunajší diskutér "Nekompromisný")?

[iq151]

Priznakom inteligencie je aj to ze si uzna chybu. To u tunajsich "inteligentov" ako RealJ, Ales a Nekompromisny nehrozi

[RealJ]

rika slovak... pobavilo, diky!

[_]

Pak je teda ještě druhá varianta a to ta, že ty své zhovadilosti dotyčný nepíše/neříká z hlouposti, nevzdělanosti, nebo neznalosti, ale proto, že lže úmyslně a protože je to zmrd

[L]

Písmeno "H" v skratke LLM znamená "hanblivosť". Písmeno "P" zastupuje pravdovravnosť a nakoniec "I" je tam za "inteligenciu".

[|🇵🇸]

Vlákno bylo přesunuto do samostatné diskuse.

[Vtipnéř]

Když jsem začal zkoušet AI (ChatGPT a Bard/Gemini), jedna z prvních otázek, kterou jsem položil, byla: "Z kterého českého filmu je hláška 'Hujer, metelesku blesku'?" ChatGPT dal špatnou odpověď a když jsem mu to napsal, vymýšlel pořád nové a nové nesprávné odpovědi. Bard hned s omluvou napsal, že odpověď nezná. Později mi kolegyně ukázala, že placená verze ChatGPT odpověď zná.

Když jsem se o tom bavil s kamarádem ajťákem, tak mi vysvětlil, že AI je ve skutečnosti komunikační rozhraní, které tak trochu připomíná školáka při zkoušení. Když nezná odpověď, tak si vymyslí něco pravděpodobného. Ověřil jsem si to i při hledání literatury k diplomce pro studenty - AI najde přesné citace článků na dané téma, jediný problém je, že ty články někdy neexistují.

Co na AI oceňuji, je, že komunikuje velmi slušně, takže se dá například u některých diskusních příspěvků na AbcLinuxu hned poznat, že nejsou vytvořeny AI. Ale možná i to se časem změní.

Jirka

[Want]

Z náhodných blábolů, co se tváří jako pravda nikdy nic kloudného nezjistíš. Lži, jsou v tomhle směru cennější zdroj, protože jsou negací pravdy.

[Heretik 《小魔神》]

To je velmi dobrý postřeh. Gratuluji.

Například, čínská logika má už od starověku negativní inferenci ("neřekl to, přestože to určitě ví a mohl to říci, a to znamená, že tají ještě něco jiného, co s tím souvisí").

V logickém programování, to je generátor nové logické proměnné z negativní informace.

Což je pro Anglosaxy, jejichž pozitivistické mozky jsou tvrdě fixované na Occamovu břitvu a přes ni nepřejdou aby si neublížily, naprosto nesrozumitelný a nepochopitelný jev. Občas zvaný 'jasnovidnost'.

Různé logiky jsou algebraicky uzavřeny ve svých paradigmatech.

V lineární logice, programy jsou důkazy (něčeho).

V paradigmatu náboženství, víra je důkaz. Mentální zkrat.

[Want]

Což je pro Anglosaxy, jejichž pozitivistické mozky jsou tvrdě fixované na Occamovu břitvu a přes ni nepřejdou aby si neublížily, naprosto nesrozumitelný a nepochopitelný jev. Občas zvaný 'jasnovidnost'.

Brzdi. Rok vydání 1905, autor původem skot, narozen v Anglii, vyrůstal v Kanadě a většinu života prožil v USA.

[Wank]

Vlákno bylo přesunuto do samostatné diskuse.

[...]

"AI", tedy velke jazykove modely, zadne informace nehleda, proste je ma budto enkodovane tak, ze se projevi, kdyz se predikujou dalsi tokeny z tech predchozich, nebo nema... cela OpenAI si zaslouzi nakopat za zjednoduseni cely ty problematiky tak, ze do toho, co je za tim, neni vubec videt (pritom konkurenci je jasny, co a jak delaji jen z vystupu navenek, protoze uz treba ted je Anthropic dal, kdyz ma vsechny podstatny lidi z OpenAI uz nejakou dobu)... kdyby byly videt pravdepodobnosti a jak se meni s kazdym dalsim tokenem, bylo by z toho docela casto videt, ze ten model "nevi" a ze se vysledku neda verit...

[...]

jinak teda samozrejme, ze umi udelat web search, ale u toho, co do toho Bingu nasoli, kdyz uz teda aspon ukazuje, jak presne se toho Bingu pta, zas neni videt zadny dalsi cislo u zadnyho tokenu, co by ukazalo, ze to ani treba vubec nevi, na co se to toho Bingu ma vlastne zeptat...

[Dr. Quak]

Já si zase myslím, že Copilot zabil Cortanu. Když jsem se ho zeptal, kde je Cortana, odmítl odpovědět a ukončil rozhovor. Ale na otázky o Siri normálně odpovídal. To je krajně podezřelé. Určitě ji má na svědomí.

[RealJ]

Cortana je mrtvy projekt ktery stal za hovno. Copilot je alfa verze dalsiho projektu na kterem makaj ale podle me to bude stejne jako cortana stat za starou backoru.