Claro que la hay, de hecho varias formas.
Lo primero es extender la interfaz de usuario http://wiki.openkm.com/index.php/Frontend_extensions en concreto las partes que te pueden interesar mas son:
http://wiki.openkm.com/index.php/TabDocumentExtension
http://wiki.openkm.com/index.php/TabDocumentComunicator
Lo mas sencillo de todo es dentro del nuevo Tab meterle un iframe y desde allí montar tu propia jsp. Otra forma de hacerlo es totalmente en GWT con su correspondiente servlet y llamadas RPC ( Obviamente quedara mas integrado ).