Возможна (но не доказана) связь с глаголом мутить. В Сл. Даля приведено слово мутила — “ссорящий людей”. Отчество от этого прозвища и могло стать фамилией. При колебании и/ы надо учитывать, что, например, в украинском написании звук ы передается буквой и.
Значение слова МУТЫЛИН в Словаре русских фамилий
Что такое МУТЫЛИН
Словарь русских фамилий. 2012