柴油機的熱效率高、經濟性好、起動容易、對各類船舶有很大適應性，問世以后很快就被用作船舶推進動力。至20世紀50年代，在新建造的船舶中，柴油機幾乎完全取代了蒸汽機。船用柴油機已是民用船舶、中小型艦艇和常規潛艇的主要動力（見船舶動力裝置）。船用柴油機按其在船舶中的作用可分為主機和輔機。主機用作船舶的推進動力，輔機用來帶動發電機、空氣壓縮機或水泵等。

主要運動機件由活塞組、連桿組和曲軸飛輪組等組成，在十字頭式柴油機中還包括了十字頭組，它們的作用是把氣缸內燃氣所作的功以曲軸回轉運動的形式輸出。活塞組通常是由活塞本體、活塞銷以及活塞環等零件組成。活塞組的主要功用是與氣缸、氣缸蓋等組成封閉的燃燒室空間，承受氣缸內氣體的壓力，并將其傳遞給連桿；在筒狀活塞式柴油機中，還要承受連桿傾斜時所產生的側推力，起往復運動的導向作用；在二沖程柴油機中，還要起開啟、關閉氣口的“滑閥”作用。