Народився 16 грудня 1906 року в с. Старий Мерчик (нині Валківського району Харківської області) в робітничій сім'ї. До 14 років навчався в школі, а потім почав працювати. Був розсильним при конторі, помічником машиніста парової турбіни, підручним токаря і токарем.

Надзвичайно здатний, допитливий і серйозний хлопець в січні 1925 року відряджений до Харкова на навчання. Успішно закінчив робочий факультет при Харківському технологічному інституті і був зарахований студентом 1-го курсу авіаційної спеціальності технічного факультету. Після створення Харківського авіаційного інституту, будучи студентом літакобудівного факультету, проектує літаки ХАІ-1 і ХАІ-2. На талановитого молодого конструктора звернув увагу академік Г. Ф. Проскура.

Анатолій Єременко стає аспірантом кафедри аерогідродинаміки, якою завідував великий вчений. Незабаром Анатолій Петрович призначається начальником аеродинамічній лабораторії, після заступником декана літакобудівного факультету, далі начальником центральних дослідницьких майстерень. Одночасно за сумісництвом він працював асистентом, потім старшим викладачем кафедри аерогідродинаміки, читав курси лекцій з дисциплін: «Механіка літака», «Динаміка польоту», «Льотні випробування літаків». Спектр його наукових інтересів розширюється, Єременко бере активну участь в науково-дослідній роботі кафедри з проектування і будівництва нових аеродинамічних труб ХАІ, по вивченню впливу гвинтокрилої силової установки літака на характеристики крила і оперення. На цій основі він розробляє навчально-методичні посібники для студентів та нові курси лекцій.

Досвід організаторської та партійної роботи став у нагоді йому в важкий для країни і інституту воєнний час. Анатолій Єременко очолив колектив ХАІ. Володіючи вміння згуртувати колектив, який довірився йому безмежно, Анатолій Петрович в найкоротший термін перебазувалися ХАІ до м. Казань. Евакуація завершилася в жовтні 1941 року. Інститут був розміщений на площах Казанського авіаційного інституту і незабаром відновив свою роботу. Академічні заняття на новому місці розпочалися 15 листопада 1941 року. Викладачі, студенти надавали допомогу Червоної Армії своїми науковими дослідженнями з військової тематики та впровадженням їх у виробництво, безпосередньою роботою на оборонних підприємствах у позанавчальний час. У 1942 році постало питання про злиття двох авіаційних інститутів в єдиний Казанський авіаційний інститут. «А як же Харків?» – обурювався Анатолій Петрович. Він анітрохи не сумнівався, що фашисти будуть вигнані з України, і не уявляв собі Харків без ХАІ. Єременко зробив все можливе, щоб відстояти самостійність ВНЗ.

У квітні 1944 року ХАІ під керівництвом А. П. Єременко повертається до Харкова. Картина, яка відкрилася з погляду, була жахливою. Навчальні корпуси, гуртожиток студентів, житловий будинок викладачів зруйновані і розграбовані окупантами. Єременко розробляє план відродження вузу. Академічні заняття тимчасово проводяться на площах авіатехнікума і в будівлі сільськогосподарського інституту. Починається відновлення корпусів ХАІ в Помірках. І знову Анатолій Петрович встигає всюди: і на навчальні заняття, і на будівництво по відновленню зруйнованих будівель.

Про директора ХАІ як про талановитого організатора заговорили в області, до його думки прислухаються в місті. У березні 1946 року А. П. Єременко обирається заступником голови обласної Ради депутатів, продовжуючи за сумісництвом працювати старшим викладачем в ХАІ. У наступні роки він служить в органах влади: головоюРаднаргоспу, міністром легкої промисловості УРСР, заступником Голови Ради Міністрів Української РСР.

Ось як ветерани інституту оцінили роль Анатолія Петровича в житті найбільшого ВНЗ країни: «В колективі ХАІ Ви пройшли шлях від студента до директора одного з кращих вузів нашого Міністерства. Ваша принциповість, вимогливість у роботі до себе і оточуючих, чуйність до людей були тієї глибокої основою, на якій склалася ділова спрацьованість всього університетського колективу при виконанні нашої спільної справи – виховання інженерних кадрів для авіаційної промисловості ... Ви були визнаним стійким нашим ватажком в цей суворий час, з Вами разом ми берегли честь нашого інституту … ».

А. П. Єременко обирався депутатом Верховної Ради УРСР, нагороджений орденом Леніна (1945), значком «Відмінник авіаційної промисловості» (1944).