Необходимо скомпилировать PHP с параметром --with-mhash[=DIR] . Можно принудительно указать директорию с mhash.
Начиная с PHP 5.3.0, расширение mhash эмулируется через расширение Hash. Так что указания директории установки mhash не будет иметь никакого эффекта.