罗汉概念的由来，最早见于汉末支谦所译的《太子瑞应本起经》：
一心之道谓之罗汉。罗汉者，真人也，声色不能污，荣位不能屈，难动如地，己免忧苦，存亡自在。
《佛祖统记》有关阿难证得阿罗汉果的记载，也表达了相同的意蕴：
迦叶入定以天眼观，阿难一人烦恼未尽，手牵令出。
阿难思惟诸法，求尽残漏。定力少，故不得道。后夜欲过，疲极偃息，仰卧就枕，霍然即悟。
这里所指的便是那种断除轮回，诸漏已尽，六通具足的罗汉圣者。这是典型狭义上的“罗汉”，大多指佛陀弟子中的得道者，是罗汉最早的意义。
随着佛教的进一步发展，“罗汉”的意义有了新的衍伸，即得道高僧也得称为罗汉。《洛阳伽蓝记》载云：“（菩提）流支解佛义知名，西土诸夷号为罗汉”。《释迦方志》也称琼州沙门智俨为“罗汉”。此时的罗汉，大多作为佛陀的侍者出现，如凿于（北魏）宣武景明帝元年（公元500年）至孝明帝正光四年（523年）的龙门宾阳洞，（美图42、43、41页）在宾阳洞中就刻有二位罗汉随侍三尊坐佛。