Архип Осипов родился в 1802 году в семье крепостных крестьян из Киевской губернии, Липовецкого уезда, с. Каменки (ныне отдельный микрорайон г. Липовец Винницкой области). Точная дата рождения достоверно неизвестна.
По достижении совершеннолетия, 21 декабря 1820 года был принят на военную службу рекрутом, а 5 апреля 1821 года зачислен в Крымский пехотный полк. На 2-м году службы совершил побег, за который впоследствии был осужден и понес телесное наказание - проход через 1000 человек со шпицрутенами. Последующей службой сумел загладить свой проступок. К 1840 году имел нашивку на рукав, а также серебряные медали за персидскую и турецкую войны. В персидскую войну Архип Осипов участвовал во многих сражениях, в том числе в битве за взятие Сирдар-Абада. В турецкую войну, среди прочих битв, принимал участие в штурме Карса.
По окончанию Русско-Турецкой войны Тенгинский полк был переведён на Кубань, где впоследствии нёс кордонную службу. В Тенгинский полк Осипов прибыл в 1834 году вместе с 1-м батальоном Крымского полка и зачислен в 9-ю мушкетёрскую роту. Во время службы в Тенгинском полку Оспиов неоднократно участвовал в стычках с горцами. В 1840-м году Осипов в составе полка прибыл в Михайловское укрепление для усиления. Со слов сослуживцев, с момента прибытия в укрепление, под влиянием тяжести переживаемых обстоятельств, Осипов был все время крайне сосредоточен. Когда 15 марта стало точно известно о намерении горцев напасть на укрепление, он, по свидетельству очевидцев, долго обдумывая, произнес: «Я хочу сделать память России и в минуту неустойки наших подожгу пороховой погреб». 22 марта 1840 года Осипов сдержал своё слово и со словами: «Пора, братцы! Кто останется жив — помните мое дело» взорвал погреб, а с ним и все укрепление. Противник понёс в этой большие потери - более 3000 погибших.
Весть о прошедшем сражении и подвиге Архипа Осипова быстро делетела до столицы. Император Николай I, для увековечивания памяти о доблестном подвиге Архипа Осипова, который не имел семьи, повелел навечно сохранить его имя с списках 1-й роты Тенгинского полка, считая его «первым рядовым и на всех перекличках при спросе этого имени, первому за ним рядовому отвечать: «Погиб во славу русского оружия в укреплении Михайловском». Таким образом, в Российской армии было положено начало традиции зачисления навечно в списки части.
На месте взорванного порохового погреба укрепления высится чугунный ажурной работы крест с надписью: «77-го пехотного Тенгинского Его Императорского Высочества Великого Князя Алексея Александровича полка рядовому Архипу Осипову, погибшему во славу русского оружия 22 марта 1840 г. в укреплении Михайловском, на месте которого сооружен сей памятник». Памятник возник в 1876 году по инициативе Главнокомандующего великого князя Михаила Николаевича, который повелел поставить его таких размеров и на таком месте, чтобы он был виден с судов, проходящих у берега. Другой памятник Осипову и командиру Михайловского укрепления штабс-капитану Н. К. Лико воздвигнут 22 октября 1881 года во Владикавказе. После 1917 года, расцененный как памятник самодержавию, он был уничтожен.
По рассказам сослуживцев, Осипов был бравым солдатом, высок ростом, с продолговатым лицом, обрамлённым темно-русыми волосами и серыми глазами. У него не было прижизненных фотографий или портретов. Все имеющиеся образы написаны со слов лично знавших его сослуживцев.