เมื่อประมาณ พ.ศ. 2314 ได้มีคนกลุ่มคนอพยพกลุ่มหนึ่ง นำโดย นายขุน มันลา ซึ่งอพยพมาจากอำเภอสุวรรณภูมิ จังหวัดร้อยเอ็ด พบเห็นทำเลที่เหมาะสมเป็นที่ราบกว้างเป็นเนินเตี้ยและอยู่ติดลำห้วยหนองเอี่ยนเหมาะสมกับการตั้งบ้านเรือน จึงได้ตกลงใจตั้งบ้านเรือนอยู่บริเวณดังกล่าว โดยนายขุน ได้แบ่งกลุ่มคนออกเป็น 3 กลุ่ม โดยกลุ่มที่ 1 อยู่กับนายขุน มันลา มีจำนวน 13 ครอบครัว กลุ่มที่สองได้พาไปตั้งบ้านเรือนที่บริเวณบ้านแวงใหญ่ ซึ่งมีหนองโบสถ์ เป็นแหล่งน้ำกินน้ำใช้ และยังสามารถใช้น้ำจากลำห้วยหนองเอี่ยนซึ่งห่างออกไปทางทิศตะวันออก ประมาณ 1,500 เมตร เพื่อการเพาะปลูกได้ด้วยและกลุ่มที่สามนายขุน มันลา ได้นำพาไปตั้งงานเรือนอยู่ที่บ้านดงบัง โดยอาศัยลำห้วยหนองเอี่ยน หนองสรวง และหนองโนเป็นแหล่งน้ำกินน้ำใช้และใช้ในการเกษตร

ในปีต่อมา นายขุน มันลา ได้ชักชวนหมู่บ้านซึ่งอยู่ในเขตพื้นที่ใกล้เคียงและห่างไกลไปแจ้งที่อยู่เพื่อขอขึ้นทะเบียนกับอำเภอชนบท มณฑลอุดรธานี ขณะนั้นยังไม่ได้รวมหมู่บ้านเป็นตำบล เมื่อปี 2435 รัชกาลที่ 5 ได้โปรดเกล้าฯให้หมู่บ้านที่มีพื้นที่ใกล้เคียงกันรวมตำบล และให้แต่งตั้งผู้ใหญ่บ้าน กำนัน ขึ้นปกครองดูแล เมื่อนายขุน มันลา ทราบข่าวจึงได้รวมกลุ่มหมู่บ้านใกล้เคียงและที่อยู่ห่างไกลเสนอรวมกันเป็นตำบลโดยหมู่บ้านที่เข้าร่วมเห็นว่านายขุน มันลา เป็นผู้อาวุโสและมีความสามารถจึงพร้อมใจกันยกบ้านคอนฉิมเป็นที่ตั้งของตำบล (ซึ่งเป็นพื้นที่เท่ากันกับพื้นที่อำเภอแวงใหญ่ในปัจจุบัน) โดยมีเขตติดต่อด้านทิศตะวันออกจดตำบลหัวทุ่ง ทิศตะวันตกจดลำน้ำชี ทิศเหนือจดลำห้วยบง และทิศใต้จดตำบลก้านเหลืองต่อมามีหมู่บ้านอยู่ในเขตปกครอง 13 หมู่บ้าน คือ บ้านคอนฉิม หมู่ที่ 1 บ้านโนนทอง หมู่ที่ 2 บ้านโนนใหญ่ หมู่ที่ 3 บ้านใหม่นาเพียง หมู่ที่ 4 บ้านดอนหัน หมู่ที่ 5 บ้านแวงใหญ่ หมู่ที่ 6 บ้านดอนโจด หมู่ที่ 7 บ้านโนนสะอาด หมู่ที่ 8 บ้านกุดหมากเห็บ หมู่ที่ 9 บ้านหนองกระรอก หมู่ที่ 10 บ้านนาโพธิ์ หมู่ที่ 11 บ้านหนองแดง หมู่ที่ 12 และบ้านดงบัง หมู่ที่ 13 ทีกำนันปกครองตามลำดับจนถึงปัจจุบัน คือ นายตังตาสิงห์ศร ขุนคอนฉิมธุระเขต(ก่อนปี พ.ศ. 2452) ทั้ง 2 คนพักอยู่บ้านแวงใหญ่ ขุนมังคานุลักษณ์ (2454-2465) พักอยู่บ้านคอนฉิมนายกว้าง ไพรศรี (2465-2479) พักอยู่บ้านดอนหัน นายเลี้ยง (ดำรง) สารมะคุณ (2479-2498) พักอยู่บ้านดงบัง นายขาว พรมราษฎร์ (2498-2517) พักอยู่บ้านหนองกระรอก นายสมาน พงษากลาง(2517-2536) พักอยู่บ้านคอนฉิม นายสุพจน์ จันทาทุม (2536-2544) พักอยู่บ้านโนนเก่าน้อย และนายสมบัติ ชำกุล (2545 – 2551) พักอยู่บ้านคอนฉิม หมู่ 9 นายสุภาพ หลงแก (2551-ปัจจุบัน) พักอยู่บ้านโนนเก่าน้อย หมู่ที่ 8 

ต่อมาปี พ.ศ. 2492 บ้านโนนทองขอแยกจากตำบลคอนฉิมไปตั้งเป็นตำบลโนนทอง ปีพ.ศ. 2511 บ้านใหม่นาเพียงขอแยกเป็นตำบลใหม่นาเพียง และเมื่อปี พ.ศ. 2522 บ้านแวงใหญ่ขอแยกเป็นตำบลแวงใหญ่ปัจจุบันตำบลคอนฉิมมีเขตติดต่อ คือ ทิศเหนือจดตำบลใหม่นาเพียง ทิศใต้จดตำบลใหม่นาเพียง ทิศตะวันออกจดตำบลหัวทุ่ง อำเภอพล และทิศตะวันตก จดตำบลโนนสะอาดและตำบลวังแสง อำเภอชนบทมีหมู่บ้านในเขตปกครอง จำนวน 9 หมู่บ้าน คือ บ้านคอนฉิม หมู่ที่ 1 บ้านโนนใหญ่ หมู่ที่ 2 บ้านโนนสวรรค์ หมู่ที่ 3 บ้านดงบัง หมู่ที่ 4 บ้านป่าแดง หมู่ที่ 5 บ้านดอนโจด หมู่ที่ 6 บ้านโคกสว่าง หมู่ที่ 7 บ้านโนนเก่าน้อย หมู่ที่ 8 บ้านคอนฉิมพัฒนา หมู่ที่ 9

ในพื้นที่ตำบลคอนฉิม มีโบราณสถานสมัยอารยะธรรมทวารวดี คือ วัดกู่แก้วชัยวนาราม ซึ่งเป็นสถานที่เคารพสักการะของชาวบ้านหมู่บ้านข้างเคียง มีโรงพยาบาลแวงใหญ่ ซึ่งเป็นโรงพยาบาลประจำอำเภออยู่ในพื้นที่มีพื้นที่ทำการองค์การบริหารส่วนตำบลคอนฉิม ตั้งอยู่บ้านคอนฉิม มีโรงเรียนระดับประถมศึกษา 5 โรง มีวัด 8 แห่ง สำนักสงฆ์ 4 แห่ง มีสถานีอนามัยประจำตำบล 1 แห่ง มีถนนสายหลักของกรมทางหลวง

คือ สายชนบท-กุดรู