Според легендите мантрата възниква преди създаването на света
Тя е принадлежала на индийския бог Авалокитешвара – повелителя на звуците, и се произнасяла на санскрит. Странстващите монаси я донесли вТибет.
Нейното произношение се е променило незначително, тъй като Тибетците трудно изговаряли санскритските букви.
Съществуват много легенди, в които се възпява силата, заключена във всяка от сричките на мантрата. Една от тях разказва за монах отшелник, който живеел на остров в центъра на езеро, занимавал се с духовни практики и четял мантри. В края на живота веднъж погледнал навън от своето убежище. До острова със сал доплувал учен монах. Отшелникът му разказал, че е прекарал целия си живот, повтаряй чудна мантра, но ученият в ужас възкликнал: „Но вие я произнасяте напълно неправилно“. И започнал да учи отшелника на правилното изговаряне на мантрата. Отшелникът му благодарил и се оттеглил, но след това се върнал и казал, че не е в състояние да запомни толкова много информация наведнъж. Затова го помолил да повтори отново урока си.
Ученият бил в шок от това, че отшелникът прекарал целия си живот погрешно, че вървял по неправилен път.
Той му повтарял сричките, но отшелникът така и не могъл правилно да произнесе мантрата. Тогава ученият казал: „Остави, тази мантра не е за теб, очевидно е още рано“. „Сигурно е така – смирено се съгласил отшелникът. – Ще отида да се разходя.“ Ако обаче ученият бил по-внимателен и не съжалявал толкова за безцелно преживените дни на отшелника, той щял да забележи, че монахът закрачил по повърхността на водата към другия бряг на езерото. А самият учен цял ден гребял, за да докара сала си до сушата…