Искон. Возникло как скороговорочная форма от баишь (ср. диал. грит < говорит). См. баять.
Школьный этимологический словарь русского языка. Происхождение слов. — М.: Дрофа
Н. М. Шанский, Т. А. Боброва
2004