Делаеш маску в фотожопе такого рисунка (или какого там надо) потом в максе выбираеш материал бленд. Там будут три кнопки - верхние две для присвоения материалов, а нижняя собственно для маски. Маску, ясен пень, кидаешь в кнопку для маски, а потом, для верхних двух, настраивешь стекло. В одном совершенно прозрачное, а во втором матовое.