Leģenda vēsta, ka reiz Kaffā, Etiopijā, avju gani esot pamanījuši, ka daļa ganāmpulka, kas ganījusies netālu no krūma ar baltiem ziediem un sarkaniem augļiem un tos baudījusi, ir bijusi mundra līdz pat vēlai nakts stundai un nevēlējusies iet gulēt. Piesaistot mūku palīdzību, viņi noskaidroja, ka, šī krūma augļus izžāvējot, saberžot pulverī un aplejot ar karstu ūdeni, var iegūt uzmundrinošu dzērienu, kas ļauj nepagurt un ilgi palikt nomodā.

Tiek uzskatīts, ka kafijas dzimtene ir Kaffas province Etiopijā, kur dzērienu atklāja ap 9. gadsimtu. Tomēr pats vārds „kafija”, kā tas pirmajā brīdī varētu šķist, nav radies no Kaffas provinces nosaukuma. Tas ir cēlies no senarābu vārda „Qahwah”, kas nozīmē uzmundrinošs.