Mistral Large 4, vyzyvatel s biliónem parametrů vchází do ringu

Francouzská společnost Mistral AI představila Mistral Large 4 (interně přezdívaný 'le Chonk', volně přeloženo 'pořádný macek'), 'open-weight multimodální hybridní instruct-and-reasoning model s architekturou granulárního MoE, nativně podporující více jak 160 jazyků'. Model má přes jeden bilión parametrů, z nichž při práci využívá 49 miliard, kontextové okno o délce milion tokenů a obrazový enkodér o 1,6 miliardách parametrů. Tento 'čistě evropský' model byl trénován výhradně v datacentrech na území EU, na 3800 akcelerátorech se superčipy Grace Blackwell americké společnosti NVIDIA. Model je nyní dostupný v Mistral Studio skrz ukázkové (preview) API, váhy plánují Francouzi zveřejnit do konce října.

dnes 09:33 | ❗Červivý Hřib krade❗ | Nová verze

Komentáře