варенье из мандарин или мандаринов

Ответ: варенье из мандаринов.

Названия плодов, фруктов и овощей мужского рода, которые в начальной форме оканчиваются на твердый согласный, в форме родительного падежа множественного числа имеют окончание - ов.

Примеры:

И. п. ед. ч. помидор - Р. п. мн. ч. помидоров, И. п. ед. ч. апельсин - Р. п. мн. ч. апельсинов, И. п. ед. ч. баклажан - Р. п. мн. ч. баклажанов.