A buddhizmus i. sz. 538-ban tűnt fel először Japánban. Vele együtt átjutottak az óceánon a Buddha-szobrok, a régi szútrák, valamint a füstölők. Ettől a pillanattól kezdve elválaszthatatlan lett a japán történelemtől. Elképzelhetetlenül fontos szerepe van a buddhista szertartásokban és rítusokban, de a sintó szentélyekben is.
A következő állomást az jelentette, amikor a Kínából származó buddhista szerzetes, Gandzsin i. sz. 754-ben japán földre lépett. A Tiszteletre Méltó amellett, hogy a buddhizmus tanait meghonosította Japánban, elindította a Koh történelmének kerekét is. Gandzsin a nerikohnak nevezett, gyógyhatású füstölőlabdacs alkalmazásán keresztül ismertette meg Japán népével a Tang-dinasztia virágzó Koh-kultúráját.
A nerikoh egyik fajtája, a takimono porított gyógyhatású anyagokból, és kötőanyagként használt nektárból, bizonyos esetekben szirupokból készült. A nerikoh megjelenése előtt Japánban nem ismerték ezt a füstölőt, az emberek gyógyhatású füstölőrudakat égettek, ha illatélményre vágytak. Mivel a nerikoh különböző anyagokból készült, az alkotórészek eltérő keverési arányával az eredetitől eltérő illatokat tudtak létrehozni. A füstölőket ezután már nem pusztán vallási szertartások során, hanem Soradakimono-ként, vagyis kellemes aromát biztosító élvezeti cikként is használták. Japánban ezzel a lépéssel teremtődött meg a Koh kellemes, elegáns, művészi világa.
A 8. században a Heian-kor udvari nemesei, akik kellemes és bonyolultabb illatok érzékelésére vágytak, kísérletezni kezdtek az eredeti takimono receptjével. Az egymástól eltérő illatú füstölőket különböző alkalmakkor, évszakban, hangulatban használták. Az udvarban élők kedvenc füstölőjük meggyújtásával illatosították a ruhájukat és szobájukat vendégeik érkezése előtt. Ebben az időszakban vette kezdetét a takimono-avasze, a „füstölőjáték”, melynek során a résztvevők — akik már nem érték be a természetben található virág- és gyümölcsillatok felidézésével — új keverékeket hoztak létre, és ezzel megalapozták a füstölők kultúráját. Lényegét tekintve ebben az időben alakult ki a Koh-Do.
A polgárháborúk idején a Koh-Do elterjedt a magas rangú szamurájok, valamint az arisztokraták körében, népszerűsége a teaszertartáséval vetekedett.
Az Azucsi-Momojama korszakban — japán reneszánszának korában — a felsőbb osztályok tagjai gyakran rendeztek olyan társadalmi és kulturális összejöveteleket, amelyek során előtérbe került a teaszertartás, a láncverses költészet és a No színjátszás. Abban az időszakban a Koh-Do fontos kulturális szerepet játszott az ilyen rendezvényeken.
Miközben szertartásossága folyamatosan csiszolódott és finomodott, a Koh-Dot egyre inkább a geidok, a bizonyos szabályoknak engedelmeskedő művészeti ágak közé sorolták. E tekintetben a Koh jellege és rendeltetése egészen más volt, mint a nyugati országokban a parfümöké. Az emberek a parfümöktől pusztán illatélményt vártak — a Koh esetében ez másként volt.
A Koh-Do idővel kikerült az udvarból, a nemesek köréből, már nem csupán a szamurájoknak és az arisztokratáknak nyújtott élvezetet. Az írók, művészek, a tehetősebb kereskedők, a földbirtokosok is hódolni kezdtek e szokásnak. A Koh komoly hatást gyakorolt a kalligráfiára, az irodalomra, a teaszertartásra, és természetesen központi helyet foglalt el a spirituális tevékenységek során.
A Koh-Do létrehozói Szanetaka Szandzsonisi, egy magas rangú nemes, az udvar befolyásos tagja; Szosin Sino, egy szamuráj, aki Josimasza sógun mellett tanulta a Jinkoh-t; valamint Szogi és Szohaku, két művész volt.
A Koh-Do művészete az idők során több ágra szakadt, és számos iskolája jött létre. Ezek közül még ma is léteznek az Oie-Rju és a Sino-Rju iskolák. Az előbbit Szanetaka Szandzsonisi alapította, ahol a szertartás során inkább a Koh tényleges aspektusait hangsúlyozzák ki. A másik iskola szertartásformája rendszerezettebb; a formalitást és a végrehajtási módot tartják elsődlegesnek. Az Oie-Rju felfogása szerint a Koh a Heian-korban élt udvari nemesekről maradt ránk, a Sino-Rju irányzata ezzel szemben a szamurájokat és a befolyásos kereskedőket nevezi meg elődökként.
Hosszú múltra visszatekintve ez a két iskola létezik még ma is a Koh-Doban.
A Sógunátus idején, a 14. században az emberek nerikoh (füstölőlabdacs) helyett füstölőpálcikát kezdtek használni, amit koh-avaszenek (füstölőkeverés) neveztek. Ez volt a későbbi kumikoh elődje, amelynek elkészítéséhez több fajta illatos fára volt szükség.
Szokássá vált, hogy a szamurájok illatos füsttel „erősítették” meg sisakjukat és páncélzatukat. Úgy hitték, hogy a füst áthatolhatatlanná teszi ezeket, és legyőzhetetlenné válnak az ellenséggel és a halállal szemben. Egészen a Muromacsi korig, a 15—16. századig tartott az a folyamat, amíg a japán társadalom felső és középső rétegei után az alsóbb osztályokban is széles körben elterjedt a füstölők használata. Ekkorra jelentkezett az igény a füstölő egyszerű, praktikus formája iránt. A porrá tört és pálcikává sodort füstölőt könnyű volt szállítani, olcsó lett, s így az egyszerű emberek számára is elérhetővé vált. Ez volt a füstölő népszerűségének virágkora. Gazdagok és szegények körében egyaránt virágzott, központja Szakai városa volt. Közkedveltségét a város kínai, spanyol, és portugál kereskedelmi kapcsolatainak köszönhette. Akkoriban már a művészetek egyik kifinomult ágának tartották, de használták a rangok megkülönböztetésére, és a rossz szagok elűzésére is.
A füstölőkészítés folyamatosan átalakult a gyártó családok illatai közötti kölcsönös versengéssé, amit takimono-avaszenek (illatkeverés) neveztek.
