в чем отличие и что лучше юзать или все одно?

вычитал что _mysql - чисто API, а mysqldb - оболочка над _mysql для питона (для совместимости с стандартом)

Вы не находите, что разница между _mysql и mysqldb сродни различию между ctypes и _ctypes? Или bisect и _bisect?
Они разрабатывались так, чтобы вы использовали питоновский интерфейс. А необходимый для этого С код вынесен в shared library, имя которой начинается с подчеркивания.