$precision

出自 DDCC TCAD TOOL Manual
於 2018年7月27日 (五) 17:45 由 DDCC-3D (對話 | 貢獻) 所做的修訂 (已建立頁面,內容為 "Format: $precision value Example: $precision 1.00e-5 The precision value will influence the iterative solver. If precision too large, its output data l...")

(差異) ←上個修訂 | 最新修訂 (差異) | 下個修訂→ (差異)
前往: 導覽搜尋

Format:

$precision 
value


Example:


$precision
1.00e-5


The precision value will influence the iterative solver. If precision too large, its output data like IV curve may fluctuate but not smooth. If precision too small, it will take lots of time. default precision is 1.00e-5