• <ruby id="5koa6"></ruby>
    <ruby id="5koa6"><option id="5koa6"><thead id="5koa6"></thead></option></ruby>

    <progress id="5koa6"></progress>

  • <strong id="5koa6"></strong>
    • 軟件測試技術
    • 軟件測試博客
    • 軟件測試視頻
    • 開源軟件測試技術
    • 軟件測試論壇
    • 軟件測試沙龍
    • 軟件測試資料下載
    • 軟件測試雜志
    • 軟件測試人才招聘
      暫時沒有公告

    字號: | 推薦給好友 上一篇 | 下一篇

    軟件測試開發技術SQL Server2005的高性能策略

    發布: 2009-10-10 09:41 | 作者: 不詳 | 來源: 領測軟件測試網 | 查看: 20次 | 進入軟件測試論壇討論

    領測軟件測試網

    定義容量

        SSIS數據管道引擎使用一個緩存導向的結構,可以在內存中高效的讀取和操作數據集。這一內存中處理過程的價值在于,對于數據讀取的每個步驟來說,數據都沒有必要被物理的拷貝和存儲。取而代之,數據管道引擎在將數據從源向目標轉移的過程中,使用緩存來管理數據。

        為了優化這個管道,你的目標是,在盡可能少的緩存消耗中,傳送盡可能多的記錄,特別是在你處理大量數據容量的時候。為了達到這一目標,你必須首先對數據的長度(行數)和寬度(列數)進行分析。數據寬度基本上是各列數據類型的長度和,加上SSIS分配的固定長度的內存前綴。數據類型越小,對內存的使用就越有效。

    優化容量

        當你優化數據容量時,你首先應該評估所有的列,這是數據整合操作的一部分。很多時候盡管只需要這些列中的一部分,卻還是將整個源文件的數據都讀取了。不需要的列占據了系統的資源,應當盡可能的排除掉。

        另外一個要考慮的因素是,不管你的方案是否需要增量或完全的數據讀取,從容量的角度出發,完全的數據讀取是高消耗的。如果你可以用增量的數據讀取替代完全的數據讀取,你將極大的減少數據讀取操作的容量。這點在一個應用周期中容量不斷增大的情況下特別適用。

        在SSIS內,你可以通過三個主要的方法來優化容量:收縮數據集的大小,最大化吞吐量,以及定義并行操作。

    a.收縮數據集的大小 - 為了演示收縮數據集,設想下面的例子。假定這包含5000000條記錄的源文件有100列,都是在1到999之間的數字。如果你對這些列都保留默認的字符串數據類型,每個條記錄的每個列需要50Bytes。這意味著每一行計算后需要大約5000Bytes,再加上SSIS需要的內存前綴。所以,對于一個5000000條記錄的容量,每行5000bytes,文件的總大小約是23GB。如果你將這些列更精確的定義為2-byte大小的整型,再來考慮數據集大小間的區別。這將使每行的大小變為200bytes,總的大小就縮減為954MB,比字符串數據類型節省了大約22GB。通過數據類型大小的簡單改變,你就可以大大減少要讀入內存的數據量。注意,以上例子也說明了數據類型之間的相對差別和收縮數據集大小節省的空間,這并不是一個定死的大小調整方針。

    b.最大化吞吐能力 – 除了設置數據類型,你還能夠通過配置SSIS緩存設置——如DefaultMaxBufferSize和DefaultMaxBufferRows,來最大化吞吐能力。這些設置控制了在數據讀取操作過程中創建緩存的大小,以及每次傳遞的記錄行數。但是,對于調整這些參數的細節不在本白皮書內探討。

    c.定義并行操作 – 優化容量的第三個方法是考慮如何對操作進行并行化處理,以獲得最大的效率。SSIS支持包,任務以及轉換的并行化處理。當你設計并行處理流程時,你要考慮對數據讀取操作實施怎樣的并行度。例如,如果你需要讀取并聚集多個文件的數據到SQL Server中,你可以考慮對以下一個或多個操作并行處理:文件讀取,數據聚集,目標數據表裝載。盡管SSIS支持所有這些操作的并行處理,你仍舊需要搞清楚系統的資源和它們并行支持的級別。你可能創建了一個高并行度的SSIS包,而隨后就意識到你的系統沒有足夠的CPU和內存來充分體現這些并行的優勢。

        也許這個讀取5000000條源記錄的例子很簡單,這些相同的原則卻可以被直接應用到更大型和更復雜的數據讀取任務中,這個任務可以包含多個數據源,需要復雜的數據轉換,而且必須被裝載到多個目的表中。

    應用

        根據定義好的一組數據整合操作以及對所需數據容量進行的評估,可以明確出應用因素,來幫助你決定那種數據整合應用最符合那些需求。

    理解應用的使用

    文章來源于領測軟件測試網 http://www.kjueaiud.com/

    63/6<123456>

    關于領測軟件測試網 | 領測軟件測試網合作伙伴 | 廣告服務 | 投稿指南 | 聯系我們 | 網站地圖 | 友情鏈接
    版權所有(C) 2003-2010 TestAge(領測軟件測試網)|領測國際科技(北京)有限公司|軟件測試工程師培訓網 All Rights Reserved
    北京市海淀區中關村南大街9號北京理工科技大廈1402室 京ICP備10010545號-5
    技術支持和業務聯系:info@testage.com.cn 電話:010-51297073

    軟件測試 | 領測國際ISTQBISTQB官網TMMiTMMi認證國際軟件測試工程師認證領測軟件測試網

    老湿亚洲永久精品ww47香蕉图片_日韩欧美中文字幕北美法律_国产AV永久无码天堂影院_久久婷婷综合色丁香五月

  • <ruby id="5koa6"></ruby>
    <ruby id="5koa6"><option id="5koa6"><thead id="5koa6"></thead></option></ruby>

    <progress id="5koa6"></progress>

  • <strong id="5koa6"></strong>