Hola Fernando, un problema puede ser que no hayas asignado suficiente memoria (necesita un mínimo de 4gb) . Otro que ya tengas una instalación de pentaho corriendo.
De no ser así tendríamos que ver los archivos de configuración.
Los archivos son:
El archivo applicationContext-spring-security-hibernate.properties se encuentra en el directorio /biserver-ce/pentaho-solutions/system/
El archivo hibernate-settings.xml se encuentra en el directorio /biserver-ce/pentaho-solutions/system/hibernate
El archivo postgresql.hibernate.cfg.xml se encuentra en el directorio /biserver-ce/pentaho-solutions/system/hibernate/
El archivo repository.xml se encuentra en el directorio /biserver-ce/pentaho-solutions/system/jackrabbit.
El archivo context.xml ubicado en el directorio /biserver-ce/tomcat/webapps/pentaho/META-INF/
el archivo server.properties ubicado en biserver-ce/pentaho-solutions/system/
el archivo plugin.xml ubicado en biserver-ce/pentaho-solutions/system/default-plugin/
El archivo license.lic ubicado en /biserver-ce/pentaho-solutions/system/saiku
el archivo importExport.xml ubicado en biserver-ce/pentaho-solutions/system/
el archivo ImportHandlerMimeTypeDefinitions.xml ubicado en biserver-ce/pentaho-solutions/system/
el archivo saiku.min.js ubicado en /biserver-ce/pentaho-solutions/system/saiku/ui/
el archivo SaikuEmbed.js ubicado en /biserver-ce/pentaho-solutions/system/saiku/ui/js/saiku/embed
el archivo web.xml ubicado en /biserver-ce/tomcat/webapps/pentaho/WEB-INF
el archivo classic-engine.properties ubicado en biserver-ce/tomcat/webapps/pentaho/WEB-INF/classes
el archivo mondrian-schema-mapping.properties dentro de biserver-ce/tomcat/webapps/pentaho/WEB-INF/classes/
el archivo pentahoObjects.spring.xml ubicado en pentaho-solutions/system/
el archivo pentaho.xml ubicado en /biserver-ce/pentaho-solutions/system/
el archivo server.xml ubicado en /biserver-ce/tomcat/conf/
Ustedes ya han intentado hacer otras instalaciones no?
También podes bajarte una virtual actualizada a 6.4.0 → https://drive.google.com/file/d/1h84VZXB3UqB9gcnQk-PowtOPYH63aeFu/view?usp=sharing
Es un Debian 8.