Grok-3 (diskuse)

[Max]

Podles testů údajně nejlepší chatbot mezi současnými AI. Docela do toho borci kopli.
Někde jsem četl, že je Grok nejlepší i proto, jelikož necenzuruje jako jiní. Ale těžko říci, nemám to až tak moc najetý.
Zdar Max

[Ján]

Takže bude chrlit hoaxy a jako Melon. Dobře vědet.

[Max]

No, minimálně ta public verze, kde je zatím Grok2, dává automaticky i odkazy na zdroje.
Zdar Max

[Radovan]

Tyhlety odkazy:

Umělá inteligence (AI) může být hloupým pomocníkem a ještě blbějším pánem. Své o tom ví australský advokát, který si chtěl ulehčit práci a k sepsání soudních dokumentů použil chatbota ChatGPT od OpenAI. Bohužel pro něj umělá inteligence vygenerovala odkazy na neexistující případy. Muž si to ale nezkontroloval, umělé inteligenci věřil a soudní dokumenty tak odevzdal.

https://www.novinky.cz/clanek/internet-a-pc-ai-pravnik-za-sebe-nechal-pracovat-ai-nedopadlo-to-dobre-40507399

Aneb chybovat je lidské, ale něco pořádně zvorat, na to je potřeba počítač

[Max]

Bavíme se tu o Grog3, který není ani ještě public, a ty sem začneš linkovat nesmysly s ChatGPT s nějakým senza článkem, který nevím, koho má reálně ohromit. Ale to už mně nepřekvapuje, Radovan je negační bot, na všechno musí mít opačnou odpověď a linkovat sebedivnější zdroje :D.
Zdar Max

[Glee]

Bavíme se tu o Grog3, který není ani ještě public, a ty sem začneš linkovat nesmysly s ChatGPT s nějakým senza článkem, který nevím, koho má reálně ohromit. Ale to už mně nepřekvapuje, Radovan je negační bot, na všechno musí mít opačnou odpověď a linkovat sebedivnější zdroje :D.

Na druhou stranu neni asi od veci upozornit trebas nejake kolemjdouci dezolaty, co by si chteli trebas psat bakalarku za pomoci AI, a to aby si davali bacha, nebo snad ne?

Ten clanek jsem necet, ale Radovan uvedl zdroj, yay!

[Max]

Radovan uvedl zdroj nezdroj. Když napíšu, že Grog dává odkazy na zdroje, tak je tím myšleno linky na konkrétní stránky apod., odkud čerpá. To, co postnul Radovan je o tom, že si ChatGPT vymyslel nějaký text. Dvě úplně odlišné věci, kde figuruje jedno stejné slovo "odkaz", které má v obou případech rozdílný význam.
Prostě se jen snažil nesmyslně negovat a ani si sám nepřečetl, co linkuje.
Zdar Max

[rad]

Grog dává odkazy na zdroje, tak je tím myšleno linky na konkrétní stránky apod., odkud čerpá. To, co postnul Radovan je o tom, že si ChatGPT vymyslel nějaký text. Dvě úplně odlišné věci...

Čéče, to bych ani neřek'. Radovan uvedl příklad (včetně zdroje!), kde jiný model také uvedl zdroje odkud čerpal, nicméně ty zdroje fakticky neexistovaly. To si myslím, že je dost podstatná a relevantní poznámka.

Jasně, správně bys namítl, že si máš ten zdroj ověřit, nicméně ono existují i případy (např. ve vědeckých pracích), kde se uvádí odkazy na zdroje nějakých tvrzení, ty odkazované zdroje dokonce existují, nicméně se tomu původnímu tématu třeba vůbec nevěnují. Pak ti nezbývá, než si ten zdroj přečíst a posoudit jestli je v souladu s tím, co ten model tvrdí. Ale pak už defakto nepotřebuješ ten výcuc, žejo. A kolik lidí to skutečně udělá a kolik bude žít ve falešným positu jistoty, že je všechno ok, páč tam jsou přece ty zdroje, žejo...

[|🇵🇸]

Nebo aktuální studie BBC k sumarizaci článků (tzn. zdroj známý): Groundbreaking BBC research shows issues with over half the answers from Artificial Intelligence (AI) assistants

Určitě uvěřím, že genAI vyvinutá s naciElmovým vedením tyhle problémy mít nebude. /s

Vždyť je to člověk, který na xitter nechal přidat if, aby všichni viděli jeho výblitky.

[Max]

Mluví se o odkazech na neexistující případy. Nejedná se tedy o url, která nikam nesměřuje. Aspoň tak je to prezentováno a zdroj, pokud vím, není k dispozici, aspoň ne pro smrtelníky.
Zdar Max

[rad]

Mluví se o odkazech na neexistující případy. Nejedná se tedy o url, která nikam nesměřuje.

No já ti nevím, mě to připadá prakticky identický. Na konkrétní případ odkazuješ taky pomocí nějakého identifikátoru (u nás asi spisová značka, nevím co používají v Austrálii). Ten identifikátor opíšeš to takovýho obdélníčku v kompjůtru, zmáčkneš EOL, načež zjistíš, jestli takovej případ existuje nebo ne.

[Max]

Prakticky identický? Jako, že když napíšu: "Případ xy nastolil precedence.", tak je to stejný, jako když napíšu: "Případ xy nastolil precedence, viz zdroj: https://...."?
Tak to fakt ne. V prvním případě musíš jít a někde si ten text začít ověřovat a nevíš, odkud to ten AI model má. V druhém případě vidíš, odkud je skutečně čerpáno a na jeden klik otevřeš zdroj a máš šanci hned posuzovat důvěryhodnost toho tvrzení.
Já v tom tedy vidím obrovský rozdíl.
Zdar Max

[rad]

Jenomže to xy je jedinečný identifikátor (u nás třeba ona zmíněná spisová značka) pod kterým si ten relevantní dokument vyhledáš.

Ta tvoje citace by vypadala tedy nějak takhle: "Případ (sp. zn 123 C 12/2024) nastolil...". Tu značku pak vložíš do soudní databáze a příslušné dokumenty si tak vyhledáš. Mě to fakt tak diametrálně odlišné nepřijde.

[Max]

Já ti rozumím a chápu to. Mně to rozdílné přijde, protože neznáš zdroj, odkud to AI čerpalo data. Když ti ty linky dodá, tak ten zdroj znáš.
Každopádně třeba meta testovala AI na obrovském množství knih, takže v takovém případě zase těžko říci, jak by ty data prezentovala. A to může být případ třeba dalších AI. Když je trénují na knihách. různé beletrii apod., tak asi nebude jednoduché rozlišit fakta od fikce apod.
Zdar Max

[PetebLazar]

Odborné publikace jsou typicky předmětem citací jiných odborných publikací, takže rozlišit takový obsah od beletrie by neměl být zase takový problém.

[RealJ]

Fakta od fikce? Zeptas se ai jestli jsou ufouni mezi nama a dostanes odpoved ze ano protoze to cetla v humoristicke knizce a zaroven i v seriozni vedecke rozprave o mimozemstanech. Jak z toho chces urcit jestli jsou mimozemstani mezi nama? Klidne se podel jak to ai naucis. Podle me v soucasne dobe je ai tupa jako radovan a bude tvrdit cokoliv so ni strcis.

[PetebLazar]

Zeptas se ai jestli jsou ufouni mezi nama a dostanes odpoved ze ano protoze to cetla ... a zaroven i v seriozni vedecke rozprave o mimozemstanech

Můžete dát odkaz na jedinou seriózní vědeckou rozpravu/publikaci, která tvrdí že mimozemšťané jsou mezi námi? Aby mohl vědec něco tvrdit musí to mít potvzené ověřitelnými důkazy či opakovatelnými pokusy.

V opačném případě jde pouze o teorie/hypotézy, které rozhodně nedeklarují "že jsou mezi náma".

Pokud AI nezvládá porozumět sémantice textu nemá smysl z ní čerpat nějaké informace.

[|🇵🇸]

To úplně neodpovídá na otázku, jak AI pozná fakta od fikce. Přitom odpověď je nasnadě – lidé příslušně oštítkují trénovací data. Což se v různé míře skutečně děje.

Pak je ještě jiná věc, že takhle věda opravdu nefunguje. Nebo jako lidově ano, ale jen lidově. Ono „potvrzování“ či „dokazování“ je dost ošemetné, „opakovatelnost“ při krizi právě reprodukovatelnosti nic moc, „teorie“ a „hypotézy“ mají konkrétní technický význam (bez lomítka).

[Want]

To úplně neodpovídá na otázku, jak AI pozná fakta od fikce. Přitom odpověď je nasnadě – lidé příslušně oštítkují trénovací data.

Nevím, co je skutečným cílem tohoto hype, ale objektivní poznání určitě ne! Celé to povede jen k vygenerování dalších megatun nedůvěryhodných nesmyslů. Už dnes je téměř nad lidské síly se těmi hovny, co vznikaly již v éře předinternetové, prokopat k původní informaci, které jsou považovány za důvěryhodné zdroje jen proto, že vyšly tiskem. A vyvracet ty nesmysly je ještě těžší, protože to vyžaduje pracné a zdlouhavé dohledávání důkazů.

Jako názorný příklad lze uvést MyHeritage a jiné genealogické weby. Za skutečně ověřený považuji jen záznam, ke kterému se mi podaří dohledat správné matriční záznamy. A najít takový záznam, to znamená projít stovky naskenovaných foliantů, záznam po záznamu. A podchytit, všechny co by mohly přijít do úvahy.

V matrikách jsou chyby. A kdo to nedělá jako já, ty chyby nikdy neodhalí. Odhalit je není snadné. No a pokud od vás někdo takovou chybu přebere, je to pak jako když někomu kopnete do domku z karet, podaří-li se ji odhalit.

Díky takové chybě se můžete dočíst, že údajně nejstarší ženou, která porodila dítě, měla být Ellen Ellisová z Walesu, která měla v roce 1776 porodit své třinácté dítě ve věku dvaaosmdesáti let. Podle mne ja takové čtení pouze důsledkem nedůsledně psané, nebo čtené matriky.

A na tomhle chce někdo trénovat AI?

[|🇵🇸]

objektivní poznání

Co to je?

[PetebLazar]

Objektivita (z lat. obiectum, předmět) je kvalita či rys takového poznávání nebo popisu, které se snaží co nejvíce přiblížit svému předmětu, a tedy co nejvíce omezit vliv poznávající osoby. Je žádoucí právě proto, že nezávisí na osobách, a je tedy platný, použitelný a přijatelný pro každého.

[|🇵🇸]

Obligátní: [zdroj?]

Psali to na Wikipedii, to vidím taky. Je to tam mizerně ozdrojované a napsané ještě hůř.

Laskavý čtenář si všimne jak odlišný jazyk (a tím nemyslím angličtinu) používá příslušné heslo v IEP. O Platu nemluvě.

[Peter Golis]

To by síce nemal byť problém, ale vyžadovalo by to aby tú AI trénovali odborníci ktorí vedia rozlíšiť dôveryhodnosť zdroja.

Žiaľ táto potreba sa legislatívne začala riešiť až prednedávnom, a AFAIK ju nepodpísali zástupcovia USA a UK.

[JZD]

...jelikož necenzuruje...

Takže když se zeptám na náměstí Nebeského klidu a málem přejetí tankem člověka, tak se dovím pravdu? A co Větnam a masakr USA vojskem, taky cajk?

[Radovan]

Třeba prozradí kdo odbajchnul Kennedyho

Zkus se zeptat, kolik je genderů a proč právě dva.

[Heretik 《小魔神》]

Mě čínské aičko vysvětlilo uvedené střetnutí paradigmat takto:

Sex je problém v doméně Topologie, zatímco gender je problém v doméně Sociálních věd.

[Max]

Příloha:

• grok2.png (111392 bytů)

Proč se ho nezeptáš sám? Dva kliky a trochu textu je moc? To, co jsi vynaložil na komentář jsi mohl osobně ověřit, viz příloha.
Zdar Max