Какую роль выполняет ь знак в слове семья?

Мягкий знак пишется в двух случаях. В одном случае он обозначает мягкость согласных на конце и в середине слова, в другом выступает как знак разделительный.

Разделительный мягкий знак пишется после согласных перед буквами е, ё, я, и, ю. Он показывает, что согласный не сливается с гласным.

Например:

Лось, доченька, полька, щавель, пить. Мягкий знак обозначает мягкость согласных.

Осенью, друзья, ученье, волчьи, шьёт. Пишется разделительный мягкий знак.

В слове "семья" - разделительный мягкий знак.