『나는 항상 진충보국(盡忠報國)을 본령으로 삼고 있었더니 1895년에는 국모의 변이 있고, 4년 후에 내부대신 이지용(李址鎔)은 일본과 비밀조약을 맺었으며, 작년(1905) 11월 한일신협약이 성립되어 위로는 성상(聖上)을 괴롭게 하고 아래로 만민은 안도하지 못하고 국가의 존망은 아슬아슬하였다. 이에 뜻을 결정하고 작년 구력(舊曆) 11월 25일 동지 김상덕(金商悳) 김복한과 함께 상경하여 5적 대신을 주륙하고 이등(伊藤) 통감과 장곡천(長谷川) 대장을 살해하고 협약을 파기하여 국권을 회복해야 한다는 상주를 하려 했다.
마침 상주문(上奏文)을 부탁한 동지인 이설과 김복한이 경무청에 체포되어 상주문을 압수 당해 일이 이루어지지 않아 일단 충청남도 정산군의 자택으로 돌아왔다. 동지 이용규·유준근(柳濬根)·이식·남경천(南敬天)과 모의하여 의병을 일으켜 목적을 달성하고자 하였다.』
즉, 을사조약이 늑결되어 위로는 임금을 괴롭게 하고 아래로는 만민이 편안하지 못하고 국가의 존망이 위태롭게 되자 선생은 5적과 이등박문(伊藤博文)·장곡천호도(長谷川好道)를 죽여 국권을 회복해야 한다는 상소를 올리려 하였으나 상소문을 작성한 이설과 김복한이 체포되어 뜻을 이루지 못함에 따라 낙향하여 의병을 일으켜 국권회복의 목적을 달성하고자 한 것이다.
선생은 의진의 근거지를 자신이 거주하는 정산군 천장리로 삼고 의진의 편제를 정비하였다. 이때의 주요 인물로는 안병찬·채광묵·박창로·이용규·홍순대·박윤식·정재호·이만직·성재한 등이 있다. 이어서 통문을 발표하고 각국의 공사에게 청원문을 보냈다. 그 중에서 안병찬이 작성한 것으로 보이는 통문만이 현재 전해진다. 주요 내용을 소개하면 다음과 같다.

천지가 개벽한 이래로 나라가 망하고 땅을 잃은 일이 한없이 많지만 일찍이 군사는 있으되 한번도 피를 흘리지 않고 활 한번 쏘아보지 않고서 담소하는 사이에 온 나라를 빼앗기는 오늘과 같은 일은 없었도다. 불쌍한 우리 국민들은 농사를 지으려해도 경작할 땅이 없고 장사를 하려 해도 기술을 쓸데가 없으니 장차 그놈의 노예가 되고 그놈들의 고기밥이 될 것이다.
아! 오늘날의 화를 누가 불렀는가. 진실로 그 이유를 캐보면 6,7명의 적신(賊臣)들이 안에서 화를 만들어 나라를 들어다 남에게 준 것 아님이 없다. 동방의 피 끓는 남자로서, 누가 그놈들의 살을 씹어서 한을 씻고자 아니 하겠는가. (중략) 우리는 조석으로 분격하지만 한 손으로 하늘을 떠받들 힘이 없으므로 이에 큰 소리로 외쳐 팔방의 여러 뜻 있는 군자들에게 고하노라. 원컨대 눈 앞의 안일에만 끌리지 말고 바싹 다가온 큰 화를 맹성하여 하나 하나가 사기를 진작하고 동성상응(同聲相應)하여 단체를 만들어 충신의 갑옷을 입고 인의의 창을 잡아 먼저 적신의 머리를 베어 저자에 걸어 조금이라도 신인의 분함을 씻으며 만국의 공사와 화합하여 일차 담판하되 우리의 자주적 국권을 잃지 말자.
장차 무너질 종묘사직을 붙들며 죽게 될 백성을 구하여 후세에 할 말이 있도록 한다면 천만 다행이리라.

의진 편성을 마치고 선생은 1906년 3월 15일(음, 2월 21일) 광수장터 (현, 예산군 광시면)에서 봉기의 첫 깃발을 들었다. 이때 참석한 의병은 600여명에 달했다. 우선 대장단을 세워 천제를 올리고 이튿날 바로 홍주로 향하여 홍주의 동문 밖 하우령(일명 하고개)에 진을 쳤다. 선생은 홍주성 안에 살고 있는 일본인을 잡아오면 머리하나에 1천냥을 상금으로 주겠다고 하면서 홍주성 공격을 명하였다. 그러나 관군의 저항에 오히려 대장소마저 위태롭게 되어 다시 마을 밖으로 나와 진을 쳤다. 다음날 이세영(李世永)이 의진에 당도하였다. 홍주 을미의병에 참여하였다가 군대에 들어가 계급이 부위에까지 오른 그의 참여는 의진으로서는 큰 힘이 되었다.