Словарь русских фамилий - мамаев

Мамай буян, драчун. По имени злополучного хана Мамая, разгромленного в Куликовской битве. (Ф). Фамилия происходит от имени собственного мужского Мамай, которое встречается и в некоторых современных тюркских языках. Происхождение этого имени не выяснено. В татарском языке mamaj 'чудовище.

которым пугают детей' (Даль), одако это значение может быть новым, связанным уже с именем пресловутого хана Мамая. Хотя в современном монгольском языке сохранилось нарицательное имя mam бранное 'черт, дьявол'. Возможно что имя происходит от этой основы и частицы aj (рудимент родительного падежа). Менее вероятна этимология от монгольского слова meme 'сосок, женкская грудь', встречающегося в некоторых тюркских языках.