多分周速に対して送りが速すぎるんじゃないかと…
AC5025Sなら周速を130〜150m/minくらいまで上げて、その分送りを控えめ(F0.03〜0.05)にした方が安定して削れそう
で、送りは切削音等聞きながら少しづつ上げていく感じで

うちだとそういう用途の溝入れならイスカルのTOP-GRIPをよく使うかなぁ
周速を上げつつ送りを上げてもバリバリ削ってくれる頼もしい奴です