Миллнер происходил из семьи торговца шерстью. Он занялся стрельбой в 1871 году и с 1874 года вместе со сборной участвовал в соревнованиях. В 1908 году он принял участие в летних Олимпийских играх в Лондоне и соревновался в трёх дисциплинах. Он стал олимпийским чемпионом в стрельбе из винтовки на 1000 ярдов, а также занял 9-е место в стрельбе по подвижной мишени одиночными выстрелами и 15-е по стрельбе двойными. Надо отметить, что на момент выигрыша олимпийского золота Миллнеру было более 61 года.
После завершения карьеры Миллнер занялся разведением ирландских красных сеттеров, был судьёй на собачьих выставках и написал книгу «Ирландский сеттер, история и дрессировка» (англ.The Irish Setter, Its History and Training).
