У разных сканеров свои настройки.
А по поводу подсветки... Сделайте несколько сканов одной монеты, каждый раз поворачивая монету на несколько градусов. Запомните положение монеты, при котором свет на портрет падает сверху и спереди. И потом все монеты при сканировании располагайте аналогично.