Медаль «За отличие на военной службе» состоит из пластины диаметром 36 мм, отлитой из латуни вместе с узкой пластиной, на которой помещается полумесяц с восьмиконечной звездой белого цвета.

На лицевой стороне медали на фоне восьмиконечной звезды с гладкой поверхностью и выпуклыми углами изображены раскрытые орлиные крылья, скрещенные ружья и якорь. На поверхности звезды между контурами углов и контурами дуги имеются рельефные лучи.

Вверху вдоль оконтуренной с двух сторон дуги написано «За отличие на военной службе», а внизу помещаются венки из дубовых листьев.

3-я степень медали окрашена в серебристый цвет, 2-я степень, за исключением дуги и написанных на ней слов, — в золотистый цвет, 1-я степень — в золотистый цвет, орлиные крылья — серебристого, а якорь — черного цветов.

Оборотная сторона представляет собой гладкую поверхность, в середине выгравированы серия и номер медали.

Медаль соединяется при помощи крючка и петли с прямоугольной муаровой лентой оливкового цвета размером 37 мм x 50 мм, имеющей элемент для крепления к одежде. Для медалей всех степеней по краям муаровой ленты изображены вертикальные полосы шириной 1 мм золотистого цвета. Посредине ленты для 1-й степени медали имеются одна вертикальная полоса шириной 5 мм золотистого цвета, для 2-й и 3-й степени — соответственно две и три полосы шириной 2 мм. К верхней части муаровой ленты прикрепляется пластина золотистого цвета размером 40 мм x 5 мм для медали 1-й степени, серебряного цвета для медали 2-й и 3-й степени.

К медали прилагается обернутая в аналогичную муаровую ленту планка размером 37 мм x 10 мм, имеющая элемент для крепления к одежде.