Arhitectul stocastic
Prima mea săptămână cu GPT-4
Arhitectul stocastic

În anii petrecuți construind detectoare și lucrând cu hardware-ul NVIDIA, am asistat la numeroase progrese care erau, în realitate, doar pași incrementali foarte mici. GPT-4 este diferit. Este o tranziție de fază.

Apariția raționamentului

Am petrecut câteva zile oferindu-i probleme complexe de fizică—de tipul celor care necesită nu doar memorie, ci și un adevărat model mental al lumii fizice. GPT-3.5 „halucina” adesea calculele. GPT-4, însă, pare să gândească înainte de a răspunde. A rezolvat o ecuație diferențială neliniară și chiar a sugerat o modalitate mai eficientă de a structura codul Python pentru analiza datelor.

Multimodalitate: „ochii” mașinii

Cea mai impresionantă noutate, pentru cineva din domeniul meu, este capacitatea vizuală. Îi pot arăta o schemă desenată de mână a unui circuit, iar el este capabil să descrie fluxul semnalului și să identifice posibile blocaje. Nu mai este doar un Large Language Model; devine un Large Reasoning Model.

Bariera de calcul

Scara clusterelor H100 pe care OpenAI le utilizează pentru a rula aceste inferențe este o realizare inginerească la fel de impresionantă ca și codul în sine. Asistăm la nașterea unui instrument care nu doar procesează date—le interpretează. Pentru studenții mei, întrebarea nu mai este: „Cum programez asta?” ci „Cum formulez întrebarea corectă?”