Там есть файлик mathlab.h где объявлены все функции матлба (немного отличаются названиями - но там какая-то приставка - можно посмотреть в h файле). Кроме того надо прописать в BCB путь к библиотекам матлаба.
Было давно, такчто дир. забыл, но помниться, что быстро разобрался, поэтому это все где-то на поверхности.