С названием горы связана легенда о Святом Атабеке: этот праведник жил в столетие, когда казахи воевали с джунгарами. Однажды он, спасаясь от погони, укрылся в самой большой пещере горы, а Аллах создал святому старцу в глубине ее источник пресной воды. Враги не могли найти эту пещеру, потому что она расположена не у подножия, а на высоте, в отвесной скале.
Происхождение пещеры естественное, здесь выветриваются граниты при контакте различных пород. В пещеру далеко проникает дневной свет, и поэтому спелеологи называют такие пещеры "гротами" или "хрустальными погребами". Это редкий по красоте портал, и вход в пещеру расположен на площадке среди отвесных утесов. На редкость для здешних пустынных мест много в Бектауата различных растений. Ученые-ботаники на площади 500 га определили около 300 видов луговых и степных растений. Из них около 50 видов - лекарственные. Встречаются шиповник, таволга, боярышник, жимолость, смородина. Сохранилось здесь еще и редкое растение - астрагал Кесслера. Известно в Бектауата и редкое, занесенное в Красную книгу растение, которое называется "копеечник бектауатавский". Неизменное удивление в этих горах вызывает арча, или казацкий можжевельник, растущий буквально на голых скалах. Месяцами здесь не бывает дождей, а это растение умеет находить влагу в трещинах скал. Здесь обнаружен редкий зверек - пятипалый карликовый тушканчик, живут архары. Зеленый оазис в пустыне привлекает множество птиц. Это горлицы, иволги, варакушки, славки, овсянки, каменки. В целом весь этот природный комплекс требует охраны. В недрах горных пещер встречаются дымчатый горный хрусталь морион, редкий минерал пьезокварц. Процессы выветривания тысячелетиями разрушали граниты, и там, где они поддавались, образовывались глубокие трещины, ниши, а отдельные участки гор приняли самые фантастические формы. Они так и называются - "Гриб", "Сундук", "Черепаха", "Трехзубка". Один из массивов назван "Сарыкульджа" - желтый архар.
