測試案例管理系統比較: Armoury+ vs TestRail

作者: Fabian Lin

1 11 月, 2024

在測試領域裡,如果要討論Test Case測試案例的管理工具,榜上有名的,大概會有TestRailTestLinkZephyr及其他工具,而KEENLITY推出的Armoury+將是軟體測試圈一個不可忽視的選擇。

而我們陸續會將各個工具和Armoury+一起來做全面性的比較,包含計價方式、主要功能、版本控制、自動化整合、安全與權限機制、客戶支援。

 

這次我們會和TestRail做比較

TestRail2010年發布,在軟體測試市場上有較長的歷史及累積大量的客戶,在軟體測試領域裡,是一個高知名度的存在,在有預算的狀況下,大多數測試人員可能會選擇TestRailKEENLITY創辦人Fabian過往的工作經驗裡,也是直接導入TestRailTestRail確實是市場上表現良好的測試案例管理工具之一。

但在KEENLITY大量的案例研究及顧問服務的企業案例中,絕大多數的企業受阻於TestRail或市面上其他類似工具的高昂價格,所以一直無法導入良好的工具來提升測試效率。即使最終導入,也是採用共用帳號的做法,但這就失去了人員管理和測試紀錄的優勢了,僅僅只是作為一個Excel的替代品,而且是高昂的。

Armoury+是由KEENLITY開發的付費測試案例管理工具,而KEENLITY創辦於2021年,主要領域是軟體測試顧問公司。Armoury+遵循著KEENLITY的企業理念「專注於測試」,從軟體測試工程師的角度為中心,來設計工具的使用流程和功能。於20244月推出第二項大功能更新 – API測試,讓測試人員可直接在Armoury+系統中發送API請求,取得返回值,內建工具建立斷言(Assertion),讓企業無需招募懂程式的工程師來建立API測試框架,就能直接開始建立API的自動化測試機制,整合進CI/CD流程中,取得測試結果來決定後續處理。

計價方式

TestRail的價格是以使用者帳號數量計費,一個Professional Cloud使用者帳號每年420美元,換算台幣下來,大約13,000新台幣左右。但若你想要有測試案例的版本控制、優先支援或其他企業功能,則需要提高預算到Enterprise Cloud方案,一個帳號每年852美元,約27,000新台幣左右。

Armoury+的計價方式採使用者級距和功能用量計價,並提供API測試功能,,5名使用者的Starter方案,每年費用為329美元或9800新台幣,平均一名使用者每年只需約65美元或1960新台幣,重點是在這樣的價格下,也能同時獲得版本控制和客戶支援等TestRail的高價功能。

根據這樣的計算方式,我們可以獲得下列表格:


Armoury+ Starter
Armoury+ Plus Ultimate
TestRail Professional
TestRail Enterprise
5位使用者
$329
-
$2,100
$4,236
20位使用者
-
$1,999
$8,364
$16,944
測試案例
3,000
10,000
Unlimited
Unlimited
版本控制
Yes
Yes
No
Yes
API
500 APIs
2000 APIs
N/A
N/A
API 呼叫
50,000
200,000
N/A
N/A

無論在小團隊或龐大團隊的規模下,Armoury+在價格方面仍然有極大的優勢,提供了企業導入工具的可承受成本,可根據所需使用量來評估方案和費用;而測試人員在與公司討論工具導入預算時,也能有更好的談判空間,無需擔心額外的伺服器技能和維運技能要學習,也不用承擔系統崩潰的風險。

 

主要功能

我們先在測試案例管理的功能下進行比較,這是兩者都有的功能,會發現兩者之間沒有太大的差異,都提供測試案例池,TestRail稱為Test SuiteArmoury+稱為Group,也都提供節點分組,正式執行的Test Run兩者都有,而Armoury+提供了標籤功能,能讓測試案例具備分散管理的特性。

最常見的場景,就是同一條測試,可能在不同的小節中都有被測試的必要,在TestRail中,需要在每一個小節撰寫相同的Case;而在Armoury+中,你可以利用標籤為案例添加多種屬性,例如用「必測」來表示每次測試都要加入;「常錯」來表示這個功能時常出問題;「某功能」來表達此案例除了跟節點有關外,還另外跟某功能有關,讓測試案例有更高的彈性。

兩者之間存在著細節的差異,像是不同類型但相同案例的場景,例如,我們會基於某種原因,進行多次相同的測試,例如不同OS版本的裝置、不同國家地區。在TestRail中,可以採用變數來自動建立多種組合,讓一個Run內含多種測試。在Armoury+中,則是使用Run複製功能,先建立好一個完整的Run,後續根據需求複製多個相同的Run內容。

管理階層上,TestRail具有MileStone的最高層級,而Armoury+則是Test Run為最高層級。TestRail的設計理念為目標導向,可以設定一個目標關聯多個Test RunArmoury+採用完成優先導向,測試工程師只需要專注於列表中仍未關閉的Test Run

 

版本控制

Armoury+採用時間軸,讓用戶從新到舊呈現版本歷程;TestRail採用的是版本比較,透過選擇兩個案例來比較兩者差異,讓使用者選擇。會有這樣的設計差異,在於Armoury+較偏向軟體測試思維而TestRail較偏向開發者思維。

Git為例子,Git是被廣泛使用的版本控制工具,其中git diff指令可以觀看不同版本程式碼的差異,讓開發者知道兩個版本之間的變動,TestRail採用了類似這種觀點;而測試案例的改變,與程式碼變動是不同概念,是根據產品變化而改動,版本控制的目的在釐清產品變化,所以Armoury+採用時間軸模式。

兩種設計都有優缺點,使用者可以根據需要選擇適合的產品。

 

自動化整合

自動化測試是軟體測試領域很重要的議題,大部分企業都期待能夠用自動化測試涵蓋傳統人工執行,而在自動化發展的過程中,會出現一個難點,即「如何有效呈現測試結果」,導致手動測試管理工具出一份報告,而自動化測試也出一份報告,這也催生了大部分測試管理工具都有整合自動化的功能,透過SDKAPI,讓自動話測試腳本呼叫,將測試結果傳入,無需另外整合或自建報告格式。

在測試案例管理的自動化功能上,兩者不分伯仲。

Armoury+更多了API測試的功能,且能透過API觸發自動執行測試,這讓CI/CD的測試整合流程多了一項選擇:當後端部署新版程式碼後,在CI/CD街端去觸發ArmouryCollectionRequest層級的API測試,取得測試結果後即可判定新版的API是否有錯誤,不再依賴手動測試去覆蓋後端測試。

 

用戶權限機制

在用戶權限機制,兩者有著很大的區別,TestRail內建了大量的權限設定機制,包括角色、群組、專案、甚至可自定義權限,從專案管理的角度上給予了很大的彈性,但從測試管理的角度上,可能會是一種阻礙,因為管理系統的管理員需要花費大量的心力來確保權限都合規。

Armoury內建了管理員、主管、設計者、測試者和閱覽者的角色,依照角色做權限限制,而不對專案進行控管,這大幅簡化了系統管理者在Armoury+上管理成員的時間成本,每個成員也能夠依照角色得知自己有什麼權限。

舉個例子,如果企業有10名測試人員,但有兩個不希望彼此存取的獨立專案,在選用TestRail的狀況下,通常會是購買10個使用者的權限,然後細分每個使用者能存取哪個權限,後續人員流動,都需要在新增的時候處理權限。而在選用Armoury+時,可以採購兩套Armoury+ Starter方案,即可有兩個獨立系統,分別有5名測試人員的額度,此時,TestRail將花費約130,000 (Pro)或260,000(Enterprise),而Armoury+只需要19,600,約6~13倍的差距。

甚至我們應該思考的是,當測試人員都是相同公司的情況下,是否有需要劃分到專案層級不可見?如果是擔心非屬專案的人員動到資料,Armoury+在所有方案中都提供Audit Log功能,確保每一項測試案例的變動都是在掌控範圍,毋須擔心被修改的問題。

TestRail的Audit Log是只有系統管理者層級能查看每一個實體的改變紀錄,只有高價位的Enterprise方案才提供;而Armoury+的Audit Log則是和測試報告功能做整合,除了得知案例被誰修改,也能得知整體的進度是否有落後。

 

 

客戶支援

兩者的客戶支援方式也有明顯的不同,根據筆者過往使用TestRail Professional Cloud的經驗,當發生問題時,是開立Support Ticket等待回覆,或是到TestRail的論壇中去觀看是否有其他人遇到相同的問題,至於優先支援,筆者沒有使用過,則不提出討論。

Armoury+的每一個使用者帳號右上角,都提供了客服對話框,能直接與客服人員聯繫,最慢的狀況下24小時能完成回覆,大約等同TestRail的標準支援。

而訓練方面,TestRail只有高價Enterprise方案有提供線上訓練課程,或是需要找官方授權的培訓機構,另外付費。而Armoury+則是搭配KEENLITY的原廠顧問服務,進行各種軟體測試主題的培訓,包括Armoury+系統培訓。從TestRail省下的費用,用來聘僱專業顧問進行測試流程改造,比單純導入系統能獲得更大的提升。

Armoury+作為一個新推出市場的產品,持續聆聽用戶的需求,付費用戶可以提出期望的功能,建議KEENLITY發展方向。

 

 

Armoury+的缺點

目前Armoury+最大的缺點,是缺乏了第三方生態的整合。

作為一個新推出市場幾年的產品,建立軟體測試主要功能是KEENLITY目前的首要目標,在KEENLITY的企業實務經驗上,測試工具與其他團隊的工具整合(例如Jira, RedMine, Figma)無法有效提升測試效率、大多時候是團隊的其他成員想要看到測試狀況而加入。以KEENLITY的哲學來說,在帳號價格的絕對優勢下,我們是希望團隊的所有人都擁有Armoury+的帳號來參與完整的測試流程,而不是測試僅僅是專案的一部分。

除此之外,一些常見的高階企業功能例如SAML, Oath,OpenID Connect,也不在Armoury+的路線圖上,短期內,KEENLITY沒有開發與其他系統整合的計畫,當Armoury+完善了大部分的軟體測試功能後,會開始著手這一塊。

 

結論

在主要功能的比較下,Armoury+TestRail都是以測試案例管理作為主要功能,但Armoury+另外提供了完整的API測試功能,這也是Armoury+勝出的主要原因。軟體測試有非常多領域,測試案例管理是手動測試的基本,而網路軟體公司大部分都會有API後端,也就成為測試的重點之一,在購買了TestRail後,若要發展API測試,則又會需要考慮導入其他工具,例如PostmanInsomnia,又是另外一個花錢提案,成為另一道阻礙,而Armoury+的導入,一次性的解決測試案例管理和API測試兩件軟體測試的大事,且Armoury+的功能會圍繞在軟體測試上持續增加功能。

在想要提升測試效率,但卻預算有限的狀況下,Armoury+已經是很明顯的贏家了,Armoury+是目前相同功能的付費測試系統中費用最低,且提供中文服務。

若是有足夠預算,也能夠選擇TestRail,但若你同時有測試API的需求,或期望發展API測試,你絕對不能忽視Armoury+自帶API測試的功能。若是有培訓測試團隊的需求,希望測試人員的技能和思考方式能提升和對齊,則導入Armoury+後,可採用KEENLITY的顧問服務,來達成團隊技能的提升。

想要將你的軟體測試團隊提升到新的高度嗎?嘗試KEENLITY推出的Armoury+,導入測試案例管理和API測試管理,現在註冊可獲得一年的免費試用額度,聯繫我們將免費提供兩個月的全功能試用。

追蹤我們

在社群網站上與我們建立聯繫

加入好友

你能執行多少測試,取決於你能在測試過程中節省多少不必要的浪費。

KEENLITY Armoury

測試案例管理系統 & API測試系統

相關文章

No Results Found

The page you requested could not be found. Try refining your search, or use the navigation above to locate the post.

隨時了解最新新聞和更新

取得正式計畫的免費試用

聯絡我們的銷售團隊,取得正式計畫的試用期,讓您精確評估 Armoury 能為您帶來的顯著效益。

訂閱電子報

 

15 + 9 =

追蹤我們

在社群網站上與我們建立聯繫