Калинівку засновано в першій половині XVIII ст., Була спроба пов’язати назву селища з калиною, якої нібито колись тут було багато. Історичні джерела свідчать, що назва ця походить від прізвища польського магната Калиновського, який загарбав тутешні землі й закріпачив селян. Пізніше власниками маєтку у Калинівці були Холоневські.
1774 року в Калинівці налічувалося 44 двори, у яких проживало 143 особи. Існувала також ще одна назва цієї місцевості, точна назва невідома, але є здогадки, що цією назвою була Полова.
Станом на 1885 рік у колишньому власницькому містечку, центрі Калинівської волості Вінницького повіту Подільської губернії, мешкало 920 осіб, налічувалось 143 дворових господарства, існували православна церква, синагога, 6 постоялих дворів, постоялий будинок, 28 лавок, цегельний завод, відбувались базари через 2 тижні.
1892 у містечку існувало 238 дворових господарства, проживало 1606 мешканців.
На іншому березі річки Жердь розташований сучасний мікрорайон Калинівки — Варшиця, що свого часу був окремим селом. З 19 ст. по 1923 роки село Варшиця входило до складу Мало-Чернятинської волості Бердичівського повіту Київської губернії. 1900 року у селі налічувалося 897 мешканців, що мешкали у 157 дворах. У селі була православна церква, каплиця, церковно-парафіяльна школа, вітряк, кузня та соломорізка.
За переписом 1897 року кількість мешканців зросла до 2558 осіб (1265 чоловічої статі та 1293 — жіночої), з яких 1448 — православної віри, 1052 — юдейської.
У серпні 2015 року місто стало центром новоствореної Калинівської міської громади.
26 вересня 2017 року на 48 арсеналі ЗСУ в Калинівці розпочалися вибухи снарядів. Відбулась евакуація місцевих жителів у радіусі 10 км від центру пожежі. Вибухи тривали протягом 3 днів. Потім були поодинокі вибухи снарядів.
