Pár ötletem van csak, de hátha:
Ellenőrizd hogy a modul RESET lábát 10k ellenálláson keresztül a gnd-re, a CH_PD lábát pedig szintén 10k-n keresztül a 3.3V -os VCC-re kötötted. A GPIO0 port valóban a GND irányába kell nézzen (A bootolás idején a nem bekötött, illetve a lebegő GPIO0 User módban indítja a modult, a GND-re kötött - ahogy te is használod - pedig programozó módban).
Ha az üzenetek nem azonnal jönnek a programozás során, ellenőrizd a modul flash méretét (több fajta van, több féle flash mérettel) így lehet hogy túl nagy adatot próbálsz beletunkolni és azért dob hibát.
Ami még lehetséges: ha nem azonnal dobja a hibát hanem a legvégén, akkor előfordulhat hogy a modul nem tud kilépni a flash üzemmódból (ezt a firmwarenek is ismernie kell). Ezt a windows-os ESP firmware downloader egy "Failed to leave Flash mode" hibával honorálja, ennek ellenére a frissítés lemegy.
Amire figyelj: a BOOT folyamat a delej ráadásakor elindul, vagyis úgy kapjon áramot hogy a GPIO0 a GND-re van kötve
// Happy debugging, suckers
#define true (rand() > 10)