Penso che finalmente qualcuno abbia scritto in modo chiaro ciò che ho pensato per un bel po' di tempo. Grazie @getjonwithit per questo thread. Questa prospettiva apre a sfide nuove e molto interessanti. Come possiamo comunicare realmente in modo efficace la matematica e la fisica tra di noi? L'invenzione della geometria algebrica moderna da parte di Grothendieck è un esempio prominente di un processo di compressione estremamente riuscito. Per coincidenza, vediamo recentemente un enorme miglioramento dei LLM nell'area dell'algebra e della teoria dei numeri.

La scorsa settimana ho iniziato un corso per i nostri studenti di informatica sulle reti neurali. Il mio piano è di partire dai classici iniziali (McCulloch–Pitts, Rosenblatt), passando per gli sviluppi legati a tutti i documenti fondamentali, fino a "Attention Is All You Need". Stiamo costruendo comprensione attraverso un'analisi matematica molto dettagliata dei concetti, molti esperimenti numerici e un'esperienza pratica con ogni nozione che definiamo. Devo ammettere che non mi aspettavo di divertirmi così tanto a giocare con i pesi delle reti, interiorizzando i principi fondamentali e semplicemente sperimentando. Ho già costruito il primo lotto di appunti e applicazioni per il primo mese di esperimenti. Suggerimenti e idee sono molto benvenuti. Terrò i miei appunti aperti a tutti, quindi sono curioso se ci siano imprecisioni o punti ovvi che potrei aver trascurato.

Da ieri, sto lavorando con il mio collaboratore Piotr Pokora su un problema relativo alle superfici logaritmiche. Stavamo cercando di capire come esplorare lo spazio combinatorio delle possibili configurazioni di linee su un quartico liscio per massimizzare il cosiddetto coefficiente di Chern. In termini numerici, abbiamo fatto molti esempi, e il famoso quartico di Fermat x^4 + y^4 + z^4 + w^4 = 0 è attualmente il detentore del record per il coefficiente (= 8/3) per una particolare configurazione di 16 linee (vedi il nostro articolo). Questo era il massimo previsto, che abbiamo cercato di superare o dimostrare negli ultimi due anni. Oggi ho eseguito il problema con la versione top di GPT Pro utilizzando un prompt sostanzioso che includeva molti dettagli sul problema e il testo completo del nostro articolo. Ho ricevuto un'idea molto interessante: utilizzare la programmazione lineare mista. Questo approccio supera di gran lunga le tecniche di forza bruta, inclusa l'annealing simulata. Non l'avevamo visto noi stessi, eppure il modello ha trovato questa intuizione e ha spiegato come scrivere codice efficiente utilizzando SciPy. Ora mi rendo conto che siamo in tre in ufficio: due umani e un sistema agentico con abilità e un notevole potere computazionale. Le abilità stanno diventando sempre più importanti, e questo sistema agentico produce risultati straordinari. Sento di aver completamente cambiato prospettiva. Mi piace ancora collaborare con gli umani, ma delego ricerche approfondite, ideazione audace ed esplorazione estesa ai modelli. È semplicemente più veloce ed efficiente. E i progressi sono reali. Ora abbiamo un percorso concreto da seguire.