当日，关索最后一次在诸葛亮府上交谈的时候，指出郝昭虽然会通过加固城墙，多建女墙的方式强化防御。只是这样做的后果便是使城墙的重量大大增加，如果能对城墙的地基下手，再将汧河之水灌入地下，一旦城墙的地基受损，整面城墙甚至都可能坍塌。
不过这样一来，势必会对汧县城池造成严重的破坏，即便汉军重新夺下，也很难再将他作为据点，抵御魏军。而且能否将河水精准地灌到地基下面，也是一大难题，因此诸葛亮一直对关索的建议有些犹豫。
不过经过长期的思考后，诸葛亮也觉得实在没有什么好办法能够以最小的伤亡夺下汧县，故而他最终采纳了这个计策。
表面上，吴懿命士卒前往汧水河畔开挖渠道。实际上，吴懿却是找了一处正对汧县西门门的宽大营帐，命三十余名士卒挖掘通往汧县的地道。由于担心城墙前的深邃沟壑会使其余地道暴露，故而诸葛亮只让汉军全力挖这一条地道。.
不过挖掘地道，寨中势必会多出许多泥土。为了防止魏兵从城墙高处发现痕迹，诸葛亮特意在凉州备下了百余个大箩筐。吴懿便命士卒白日在帐中用箩筐装载泥土，等到天黑之后，再集体运到寨外倾倒，如此便成功躲过魏军的耳目。冬季昼短夜长，无疑给魏军的侦查带来了许多难度，郝昭又见汉军士卒不断在寨外巡逻，更有许多骑兵，故而也不敢轻易派斥候出城。城内只有两千魏兵，他着实不敢妄动，以免出现损折。
具体复杂地下挖掘工作的乃是马谡。他一直深受诸葛亮器重，此番也愿意承担这个重任。众多精壮士卒在他的安排下轮番上阵，昼夜不息，一路往正西方挖去。
诸葛亮在凉州时又命马钧做了一根长约三步的坚固木条，专门为了测量距离之用。马谡每日都在地下用木条反复计算地道的长度，以此推断与汧县的距离。另外还有
：