Rýchle správy

OpenAI a Broadcom predstavili Jalapeño, prvý vlastný „Intelligence Processor“ OpenAI určený na spúšťanie veľkých jazykových modelov. Čip nie je navrhnutý ako univerzálny akcelerátor, ale priamo na inference – teda fázu, keď model odpovedá používateľovi v ChatGPT, API alebo Codexe.

Podľa OpenAI má Jalapeño znížiť presuny dát medzi výpočtom, pamäťou a sieťou, vďaka čomu má dosahovať výrazne lepší výkon na watt než súčasné špičkové riešenia. Firma však zatiaľ nezverejnila presné benchmarky a technickú správu sľubuje až neskôr.

Projekt vznikol v spolupráci s Broadcomom a Celesticou. Od návrhu po výrobný tape-out mal trvať iba deväť mesiacov, pričom OpenAI tvrdí, že pri vývoji využila aj vlastné AI modely. Prvé vzorky už podľa oznámenia bežia v laboratóriu na cieľovej frekvencii a spotrebe.

Jalapeño má byť prvým krokom vo viacgeneračnej platforme pre dátové centrá. Nasadenie sa očakáva od konca roka 2026 vo veľkom rozsahu s partnermi vrátane Microsoftu.

OpenAI podľa správy Financial Times pripravuje výraznú prestavbu ChatGPT. Cieľom už nemá byť iba klasický chatbot, ale širšia platforma, ktorá používateľov nasmeruje k pokročilejším AI nástrojom, agentom a službám schopným vykonávať konkrétne úlohy.

Zmeny sa majú v aplikáciách ChatGPT na webe aj v mobile objaviť v najbližších týždňoch. Väčší dôraz dostane Codex pre programovanie, generovanie obrázkov, agentické nástroje a prepojenie s aplikáciami tretích strán. OpenAI chce, aby ChatGPT lepšie rozpoznal zámer používateľa a automaticky ho posunul k vhodnej funkcii.

Dôvod je aj obchodný. ChatGPT má síce obrovskú používateľskú základňu, no veľká časť ľudí ho používa zadarmo. OpenAI preto hľadá spôsob, ako z neho spraviť vstupnú bránu k službám s vyššou hodnotou pre jednotlivcov aj firmy.

Výrok jedného zo zamestnancov, že „chat je mŕtvy“, tak netreba brať doslova. Skôr naznačuje, že samotné písanie otázok a odpovedí už OpenAI nestačí.

OpenAI začína zavádzať výrazné vylepšenie pamäte v ChatGPT. Cieľom je, aby si chatbot dokázal dlhodobejšie a presnejšie pamätať užitočný kontext o používateľovi, jeho preferenciách, rozpracovaných projektoch či pravidlách, ktoré má pri odpovediach dodržiavať.

Pamäť v ChatGPT nie je úplne nová funkcia. OpenAI ju postupne rozvíja od roku 2024, keď používatelia mohli modelu priamo povedať, čo si má zapamätať. Neskôr pribudla možnosť pracovať aj s kontextom z predchádzajúcich konverzácií. Nová architektúra má byť podľa firmy výkonnejšia, úspornejšia a lepšie pripravená na dlhodobé používanie.

OpenAI uvádza, že systém sa zlepšil vo faktickom vybavovaní informácií, dodržiavaní preferencií aj v presnosti v čase. Dôležitou novinkou je aj prehľadová stránka pamäte, kde si používateľ môže uložené informácie skontrolovať, upraviť alebo opraviť.

V praxi to môže znamenať menej opakovania rovnakých pokynov a osobnejšie odpovede. Zároveň však pôjde o funkciu, pri ktorej bude dôležitá transparentná kontrola nad tým, čo si ChatGPT skutočne pamätá.