Основные направления работ отделения теоретической физики и вычислительной математики связаны с разработкой физико-математических моделей, алгоритмов и компьютерных программ для численного решения с использованием суперкомпьютеров задач гидродинамики, физики плазмы, переноса нейтронов, излучения  и заряженных частиц, взаимодействия лазерного излучения с веществом, для исследования свойств материалов в экстремальных условиях и моделирования детонации сложных взрывчатых составов.

Одной из сложнейших задач вычислительной гидродинамики является моделирование турбулентных течений. Созданные в НТО-2 сеточные и бессеточные методики обладают возможностью прямого 3D-моделирования развития неустойчивостей Рихтмайера-Мешкова,  Релей-Тейлора и Кельвина-Гельмгольца, включая стадию развитой турбулентности.

Для расчетно-теоретической поддержки экспериментальных работ, проводимых в РФЯЦ-ВНИИТФ по изучению взаимодействия лазерного излучения с веществом, созданы соответствующие программные средства для 3D-моделирования. Одной из задач, имеющих  важное прикладное значение, является получение пучков быстрых заряженных частиц при воздействии на материалы короткими мощными лазерными импульсами. В этом случае 3D-моделирование используется для оптимизации параметров лазерного импульса и мишени.

Расчетные технологии, включающие моделирование переноса фотонов, электронов, позитронов и ионов методом Монте-Карло применяются в РФЯЦ-ВНИИТФ для:

• обоснования ядерной и радиационной безопасности при обращении с ядерно-опасными материалами;
• расчетной оптимизации проектируемых приборов и установок, связанных с ионизирующими излучениями;
• оценки воздействия излучения на радиоэлектронную аппаратуру;
• расчетов нейтронно-физических характеристик ядерных реакторов;
• радиационной медицины: нейтронная и протонная терапия.

В частности, созданная в последние годы расчетная технология включает полномасштабную компьютерную 3D-модель реакторов ВВЭР-1000 и ВВЭР-1200 и расчет методом Монте-Карло нейтронно-физических характеристик реакторов с учетом обратныхсвязей по температуре топлива и теплоносителя и плотности теплоносителя.

Одним из быстро развивающихся направлений является атомистическое моделирование свойств материалов. За последние 10 лет РФЯЦ – ВНИИТФ  занял одну из ведущих позиций в мире по теоретическому изучению свойств актинидов и вычислительной радиационной физике твердого тела. Исследования в этих направлениях имеют как сугубо прикладное значение для работ по основной тематике РФЯЦ-ВНИИТФ, как, например, изменение свойств ядерно-активных материалов при длительном самооблучении, так и фундаментальное значение. Результаты исследований публикуются в ведущих профильных мировых журналах.

Работа по численному  моделированию магистрального транспорта природного газа является ярким примером успешного применения научного потенциала  и компетенций специалистов РФЯЦ-ВНИИТФ в выпуске высокотехнологичной продукции гражданского назначения. Созданный программно-вычислительный комплекс «Волна» предназначен для решения задач диспетчерского контроля, таких как, прогноз, планирование, оптимизация, и обеспечивает моделирование стационарных и нестационарных режимов работы газотранспортных систем в режиме реального времени на основе набора прецизионных физико-математических моделей ключевых элементов газотранспортной системы. С 2014 года проходит поэтапное внедрение комплекса «Волна» на газотранспортных предприятиях ПАО «Газпром».