耶律阿保机仍不肯答应，当天夜里，特地召见耶律曷鲁，责备他说：“众人借遗命逼迫我，你难道不了解我的心，也随大流吗？”耶律曷鲁说：“从前尽管推戴夷离堇雅里之人多，但他还是加以推辞，而立阻午为可汗。十几代相传下来，君与臣的名分已乱，法纪之准则也被破坏。委身投靠别国，好比垂饰物之依附于大旗。战事纷纷扰扰，百姓疲于奔命，兴王之大运，就在今日，应天命顺人心，以报答先君之遗命，实在是机不可失。”耶律阿保机这才答应继位，即皇帝位，命令耶律曷鲁总揽军国事务。

当时，法令礼俗还未走上正轨，国家用度不够充足，随从人员还不齐备；而诸弟剌葛等人总是心存非分之妄想。耶律阿保机在宫中和行营开始设置腹心部，选择各部强壮健儿二千余人充任，这支心腹部队就由耶律曷鲁及萧敌鲁总管其事。不久，诸弟之乱发生，耶律阿保机命令耶律曷鲁总领军事，讨平乱事，因平乱之功被任命为迭剌部夷离堇。

当时，契丹族百姓历经战乱之苦，焚掠之余，日益凋敝，耶律曷鲁担任迭剌部夷离堇之后，安抚、协调有方，牲畜一天天变多，百姓日用变得富饶起来，接着又出兵讨伐反叛的乌古部，大破之。乌古部从此震恐，再也不敢反叛。在政治、经济、军事取得一系列胜利之后，耶律曷鲁请求制定朝仪，建元，率百官奉上皇帝尊号。耶律阿保机在备礼受册称帝之后，拜曷鲁为阿鲁敦于越。阿鲁敦，是契丹语“盛名”之意。

在随后耶律阿保机讨伐西南各部族的战争之中，耶律曷鲁又多次担当前锋，为征服西南诸部立下战功。

耶律曷鲁随耶律阿保机进攻幽州，在可汗州以西与后唐节度使周德威会战，大败其军，并乘势包围了幽州，但在周德威的激烈抵抗之后，未能攻下幽州。耶律阿保机因时值酷暑而班师，留下曷鲁与卢国用围困幽州。李存勖派遣李嗣源等人救援幽州，由于后唐援兵接连而至，耶律曷鲁等人因兵少无援，撤围北还。

耶律曷鲁病重之时，耶律阿保机前往探视，问他有什么想说的，耶律曷鲁说：“陛下您圣明贤德，宽厚仁慈，天下归心，帝业兴隆。臣既已受您的宠爱恩遇，就是死了也已无憾。只有分散迭剌部的议案尚未决断，希望您赶紧实行。”及至逝世，耶律阿保机流着泪说：“他要是再活三五年，我的谋划就可以全部实现了！”曷鲁病亡，年四十七岁。

阿保机闻讯后惊悸悲痛，久久不能平复，下诏停止上朝三日，所赠助丧财物远过其他臣子所能享受的。耶律曷鲁下葬之后，耶律阿保机下诏赐其阡名为宴答，墓葬所在的山赐名于越峪，并下诏立石纪功。