Come si genera una risposta
Il testo scritto finora entra nella rete, che calcola quanto è probabile ogni parola come continuazione e ne sceglie una. La risposta si costruisce così, una parola per volta.
La scelta non è sempre la più probabile: per questo la stessa domanda, posta due volte, dà due risposte diverse.
A ogni risposta rientra nel calcolo tutto quello che si è scritto prima nella conversazione: le conversazioni lunghe costano di più e confondono il modello.