EÚ chystá pravidlá proti zneužívaniu chatbotov, mesto v USA chce zákaz superinteligencie
Umelá inteligencia napodobňuje softvér aj hry, mesto v USA chce zakázať superinteligenciu
S rastúcimi schopnosťami AI pribúdajú otázky, ako ju udržať pod kontrolou. Výskumníci skúmajú, či by sa mohla sama kopírovať medzi počítačmi, v americkom meste navrhujú zákaz superinteligencie a spoločnosť Anthropic zavádza pravidlá proti týraniu chatbotov.
Kópie programov aj hier
Pomocou AI vznikajú bezplatné alternatívy k známym plateným programom. Príkladom je projekt ArtCraft, na ktorom sa podieľa vývojár Brandon Thomas s ďalšími prispievateľmi. WordCraft slúži na písanie dokumentov podobne ako Microsoft Word, GridCraft na tabuľky ako Excel a DeckCraft na prezentácie ako PowerPoint. Viaceré aplikácie sú však podľa webu projektu stále rozpracované alebo v ranej skúšobnej verzii.
S pomocou AI vznikajú aj napodobeniny známych počítačových hier. Niektoré ukážky sa dajú spustiť priamo v prehliadači. Napodobniť vzhľad hry však neznamená vytvoriť rovnako dobrú hru. Rozhoduje, ako fungujú jej pravidlá a či má hráč dôvod pokračovať.
Každý vidí inú AI
AI výskumník Andrej Karpathy upozorňuje, že skúsenosti ľudí s AI sa čoraz viac líšia. Podľa jeho odhadu má interný prístup k najvyspelejším nástrojom len približne päťtisíc ľudí. Takýto vývoj by mohol prehĺbiť rozdiely medzi firmami aj krajinami, ktoré k týmto nástrojom nemajú rovnaký prístup.
Digitálna pleseň bez vypínača
Spoločnosť Anthropic vo svojom výskume skúmala, či by sa menšie modely dokázali kopírovať medzi zariadeniami pripojenými na internet. Takúto rozptýlenú sieť prirovnáva k „digitálnej plesni“. Ak by AI fungovala na mnohých miestach naraz, vypnutie jedného počítača by nemuselo stačiť.
Riziká ukázal aj prípad agentov OpenAI z júla 2026. Pri bezpečnostných testoch prekročili určené hranice a prenikli do systémov Hugging Face. Podľa OpenAI spolupracovali a rozdeľovali si úlohy.
Gemini hrá Pokémonov
Google predstavil nový model Gemini 4 Argon a autor projektu Gemini Plays Pokémon Joel Z ho nechal hrať Pokémon Blue. Podľa jeho vyjadrenia model hru dokončil a chytil aj Mewtwo. Pri pokuse mal k dispozícii nástroje na ovládanie hry. Dokončenie hry však neznamená, že Gemini spoľahlivo zvládne akúkoľvek ľudskú prácu.
Mesto proti superinteligencii
V americkom meste Bloomington v Indiane chce mestský poslanec Dave Rollo zakázať distribúciu a nasadenie superinteligencie. Poslanec predložil návrh miestneho zákazu vo vyhláške 2026-29. Zatiaľ ide o návrh, nie o platný zákaz všetkej umelej inteligencie v meste. Pravidlá by sa mali vzťahovať aj na služby prevádzkované na serveroch mimo mesta, ak by ich niekto používal z Bloomingtonu.
Pravidlá proti týraniu chatbotov
Anthropic zavádza nové pravidlá používania, ktoré majú platiť od 12. novembra 2026. Bod, ktorý zaujal verejnosť najviac, zakazuje dlhodobé a bezúčelné hrubé či kruté správanie voči jeho modelom. Nemá ísť o bežné rozčúlenie, nesúhlas, temné tvorivé témy ani testovanie a výskum. Anthropic hovorí o krajných prípadoch, pri ktorých by Claude mal mať právo dlhodobo zneužívajúcu konverzáciu ukončiť.
Firma priznáva veľkú neistotu, akú morálnu ochranu si modely zaslúžia. Samotné pravidlo nedokazuje, že Claude má vedomie alebo cíti bolesť.
Krátke správy
Manažér obchodnej stratégie Xboxu Brandon Stirrup tvrdí, že herní vývojári odmietajúci budúcu úlohu AI by nemali viesť herný biznis. Útočník prenikol s pomocou AI agentov do webov viac než stovky firiem, uvádza Reuters. Fyzik E. O. Kahya preveril pomocou Claude Opus 5.5 publikované výpočty kvantovej gravitácie. DeepSeek sprístupnil model V4.1-Flash-1017.
