Nem igazán jó megfogalmazás, hogy hazudik. Szöveget generál a tanító adatokból előállított model alapján, tehát egy ilyen kérdésre, hogy meg fogja-e tanulni azt, amit írsz neki, az inputok alapján az a legvalószínűbb válasz (nagyon leegyszerűsítve), hogy persze, megtanulja. Ez nem egy logikai model, nem igazán alkalmas logikus gondolkozásra. Egyszerűen a bemenetek alapján (ami a teljes session-t magában foglalja, így azokat is figyelembe véve, amiket előtte írtál neki) generál neked egy választ, de nem hazudik, egyszerűen hibás outputot generál.