По какой формуле набирается глубина внутреннего зуба при зубодолблении?

Хотя обе эти детали зубчатые, но это не зубчатое зацепление, а является шлицевым соединением. Поэтому расчёты зубчатого зацепления в данном случае применить нельзя. Размеры зуба должны быть заданы чертежом (или рассчитаны по данным чертежа). Если же Вы сами сконструировали это фактически шлицевое соединение, то для устранения излишнего зазора между зубьями-шлицами следует уменьшить их высоту хотя бы. У одной из сопрягаемых деталей. Тогда зуб получится более полным и зазор уменьшится

очень интересно