1894年（清光绪二十年，日本明治27年）五月清政府即派兵赴朝，进驻牙山。日本借机也出兵朝鲜，随后挑起武装冲突，企图以武力控制朝鲜。清政府为增援牙山孤军，派北洋海军巡洋舰“济远”舰、“广乙”舰，练船“威远”舰，炮船“操江”舰，由“济远”管带方伯谦率领，护送运载援兵的“爱仁”舰、“飞鲸”舰、“高升”舰三轮（均为雇用的英国商船）赴朝。
7月25日7时20分许，日军巡洋舰“吉野”舰、“浪速”舰、“秋津洲”舰与“济远”舰、“广乙”舰互相发现，双方即时下达战斗准备命令。7时45分许，日军旗舰“吉野”舰首先开炮，日本不宣而战。7时52分，清国军舰随后还击，两军展开激烈炮战。日本军舰在吨位、火炮、尤其是射速方面，较清朝军舰占较大优势。“济远”舰开战几分钟后即开始向西逃亡。福建船政局自制炮舰“广乙”舰冲入日本舰队中，利用硝烟和薄雾掩护，企图向日本军舰发射鱼雷。但在“秋津洲”舰、“浪速”舰压倒性的火力打击下受重伤，船身倾斜，人员伤亡惨重。于是航向海岸方向退出战斗，在朝鲜十八岛附近搁浅，“广乙”舰纵火自焚。
“济远”舰以一敌三，大副及二副先后中弹身亡，管带方伯谦在司令塔内亦被大副沈寿昌的脑浆血溅。后来“济远”舰悬挂白旗，然后更挂上日本军旗，同时向西撤退。之后刚巧中国租用之运兵轮“高升”舰及辅助舰“操江”舰到达，日舰“秋津洲”舰及“浪速”舰改追“高升”及“操江”。“济远”舰则弃二舰而去，并被吉野猛追。“济远”舰以尾炮向吉野还击。事后“济远”舰的航海日志上，称日舰挂上中国龙旗而逃，更称“济远”舰已重伤“吉野”舰，日舰提督阵亡。事实上，“吉野”舰及其舰上官兵并无受损。
随后，“济远”舰往中国海域逃亡，致使日舰在追击过程中遇到清军租用的英国运兵船“高升”舰，将其击沉，船上七百余名中外官兵除少数获救之外，悉数遇难。随后甲午战争正式爆发。
“济远”舰是大清帝国北洋水师在1883年向德国订购的一艘防护巡洋舰，由德国伏尔铿造船厂（Vulcan AG）所建，造价为620,000两银。济远属穹甲巡洋舰，排水量2,355吨，航速达15节。济远是北洋舰队中唯一参加丰岛海战及黄海海战两场战事的战舰。
9月17日中午爆发的黄海海战中，北洋“定远”舰及“镇远”舰在中央，“济远”舰则位于最左翼。战至下午3时左右，旗舰“定远”发生大火，“致远”舰上前掩护，中弹甚多，并且开始入水倾斜。管带邓世昌下令致远全速冲向日本舰吉野号，未能成功，“致远”舰沉没。而位于左翼之“济远”舰突然掉队离开，致使右侧之“广甲”舰随即亦掉队。再右侧之“经远”舰因而被集中攻击，管带林永昇及大副、二副先后中弹阵亡，大火漫延至弹药库爆炸沉没。
“济远”舰管带方伯谦以“伤处甚多，船头裂漏水，炮均不能放，驶回修理”为由，擅自脱离战场，直奔旅顺。途中更将在浅水区抢救大火的“扬威”撞沉。
由于“济远”舰自行退却，致使北洋舰队，队形被破坏，成为惨败的原因之一。
北洋提督丁汝昌上奏，指方伯谦“首先逃走，致将船伍牵乱，实属临阵退缩，著即行正法”。结果方伯谦于9月25日在旅顺被斩首，时年42岁。
方伯谦兄弟四人，其居长，父亲是个私塾教师。1867年，十五岁的方伯谦考取福建船政学堂，从此开始学习海军。1871年毕业后，方伯谦与刘步蟾、林泰曾、林永昇、叶祖珪等人，登建威练习船实习，进行了中国近代海军史上的第一次远航。航行北至北洋的天津，南至南洋的新加坡、槟榔屿等口岸。
1877年，清政府派遣第一批留欧学生出国深造海军专业。方伯谦奉派，偕同严宗光（后改名严复）、萨镇冰、叶祖珪、刘步蟾等，前往英国格林威治皇家海军学院深造驾驶专业；先学习理论，后上军舰实习，一年半后毕业。毕业以后，方伯谦先被派到英国犹太拉军舰赴印度洋实习，尔后又经历了全球各大洋的航行。
回国后，历任镇西、镇北炮船、威远练船管带。1885年，调管“济远”快船。1889年，升署北洋海军中军左营副将，委带“济远”快船。1892年，署海军副将期满，改为实授。甲午战争爆发前夕，方伯谦曾上条陈于李鸿章，建议速添快船，改善装备，使“彼自闻而震慑”。方伯谦对于战略战术及海军各种技术均有很深的造诣。当上管带后，又屡受褒扬，曾经连升三级，引起同行妒嫉。1884年，方伯谦和汉纳根建造旅顺口炮台时，每座炮台方伯谦只花银几千两，汉纳根花了几万两，财务曝光后，汉纳根无法中饱私囊，也和方结下了“梁子”。
方伯谦处斩后，他的夫人进京告御状，声称“方伯谦为人性情耿直，不善溜须拍马，说话直言不讳，在同僚中关系紧张。比如：与丁汝昌结下私怨。”
方伯谦被斩后，济远官兵闻讯伏尸痛哭，军中愤愤不平者大有人在。认为李鸿章假公济私，加害方伯谦，认为“指三字(莫须有)而成冤，坏长城而失傍”。
1896年，一名知情者以笔名“冤海述闻客”撰写回忆录《冤海述闻》。这名知情者爆出了鲜为人知的方伯谦战斗细节，经专家考证，作者极有可能是北洋水师“济远”舰上的海员，并且亲身经历了海战。
1895年2月日本联合舰队司令伊东祐亨接见北洋水师洽降专使程璧光时亦曾不解地问：“牙山之役方伯谦甚谙海战，何故杀之？”
方伯谦军前正法，或以为是一冤案，或以为无冤可言，迄今争论不休。
不过有一个插曲，丁汝昌同乡吴敬荣同样在海战中“始而逃阵，继而毁船，仅予革职留营，仍复月给薪水”。吴敬荣后来被丁汝昌派守威海北帮炮台，日军进攻时，再次临阵脱逃。由于方、吴二人同罪不同罚，最终导致了威海之战时，北洋海军部分官兵的集体哗变事件，北洋舰队最终走向崩溃的命运。