Так. Я по-видимому, не правильно понял проблему. Вам нужно поковырять MTS файл и обратно засунуть в контейнер BDAV? Если формат записи был AVCHD, то кодек был H.264, в премьере выбираете при экспорте H.264 Blue Ray - качество падает? С каким битрейтом и GOP был записан исходник?
Кодеки ставятся с сопутствующими программами - гугл в помощь.