Test-Time Compute (Výpočetní výkon při inferenci)

Test-Time Compute označuje koncept, kdy umělá inteligence dostane více času a výpočetního výkonu až v momentě, kdy odpovídá na konkrétní dotaz uživatele (při inferenci), nikoliv jen při svém prvotním tréninku. Namísto vytváření stále větších a dražších modelů se AI nechá nad složitým zadáním „déle přemýšlet“.

Díky zvýšení výpočetního výkonu při odpovědi dokáže i menší model vyřešit náročné logické úkoly, na které by dříve nestačily ani ty největší systémy. Jde o jeden z nejvýznamnějších trendů v efektivním rozvoji moderní umělé inteligence.