Intentando iniciar el servicio que había instalado hace tiempo y sin usar de Mysql me encontré con el siguiente error

/etc/init.d/mysqld start
ERROR: hostname cannot be localhost, mysql_install_db is quite unstable

La solución es muy fácil, ejecutamos como root lo siguiente

rpm -e mysql
rm -f /var/lib/mysql/mysql/*
/bin/hostname 127.0.0.1
urpmi mysql

Con esto ya podemos ejecutar Mysql sin ningún problema