<?xml version="1.0" encoding="ISO-8859-1"?><article xmlns:mml="http://www.w3.org/1998/Math/MathML" xmlns:xlink="http://www.w3.org/1999/xlink" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance">
<front>
<journal-meta>
<journal-id>1646-9895</journal-id>
<journal-title><![CDATA[RISTI - Revista Ibérica de Sistemas e Tecnologias de Informação]]></journal-title>
<abbrev-journal-title><![CDATA[RISTI]]></abbrev-journal-title>
<issn>1646-9895</issn>
<publisher>
<publisher-name><![CDATA[AISTI - Associação Ibérica de Sistemas e Tecnologias de Informação]]></publisher-name>
</publisher>
</journal-meta>
<article-meta>
<article-id>S1646-98952013000100004</article-id>
<article-id pub-id-type="doi">10.4304/risti.11.31-43</article-id>
<title-group>
<article-title xml:lang="pt"><![CDATA[Avaliação de Usabilidade: Uma Revisão Sistemática da Literatura]]></article-title>
</title-group>
<contrib-group>
<contrib contrib-type="author">
<name>
<surname><![CDATA[Martins]]></surname>
<given-names><![CDATA[Ana Isabel]]></given-names>
</name>
<xref ref-type="aff" rid="A01"/>
</contrib>
<contrib contrib-type="author">
<name>
<surname><![CDATA[Queirós]]></surname>
<given-names><![CDATA[Alexandra]]></given-names>
</name>
<xref ref-type="aff" rid="A02"/>
</contrib>
<contrib contrib-type="author">
<name>
<surname><![CDATA[Rocha]]></surname>
<given-names><![CDATA[Nelson Pacheco]]></given-names>
</name>
<xref ref-type="aff" rid="A01"/>
</contrib>
<contrib contrib-type="author">
<name>
<surname><![CDATA[Santos]]></surname>
<given-names><![CDATA[Beatriz Sousa]]></given-names>
</name>
<xref ref-type="aff" rid="A03"/>
</contrib>
</contrib-group>
<aff id="A01">
<institution><![CDATA[,Universidade de Aveiro Instituto de Engenharia Eletrónica e Telemática de Aveiro Secção Autónoma das Ciências da Saúde]]></institution>
<addr-line><![CDATA[Aveiro ]]></addr-line>
<country>Portugal</country>
</aff>
<aff id="A02">
<institution><![CDATA[,Universidade de Aveiro Escola Superior de Saúde ]]></institution>
<addr-line><![CDATA[Aveiro ]]></addr-line>
<country>Portugal</country>
</aff>
<aff id="A03">
<institution><![CDATA[,Universidade de Aveiro Instituto de Engenharia Eletrónica e Telemática de Aveiro Departamento de Eletrónica, Telecomunicações e Informática]]></institution>
<addr-line><![CDATA[Aveiro ]]></addr-line>
<country>Portugal</country>
</aff>
<pub-date pub-type="pub">
<day>00</day>
<month>06</month>
<year>2013</year>
</pub-date>
<pub-date pub-type="epub">
<day>00</day>
<month>06</month>
<year>2013</year>
</pub-date>
<numero>11</numero>
<fpage>31</fpage>
<lpage>43</lpage>
<copyright-statement/>
<copyright-year/>
<self-uri xlink:href="http://scielo.pt/scielo.php?script=sci_arttext&amp;pid=S1646-98952013000100004&amp;lng=en&amp;nrm=iso"></self-uri><self-uri xlink:href="http://scielo.pt/scielo.php?script=sci_abstract&amp;pid=S1646-98952013000100004&amp;lng=en&amp;nrm=iso"></self-uri><self-uri xlink:href="http://scielo.pt/scielo.php?script=sci_pdf&amp;pid=S1646-98952013000100004&amp;lng=en&amp;nrm=iso"></self-uri><abstract abstract-type="short" xml:lang="pt"><p><![CDATA[O objetivo deste estudo é identificar, analisar e classificar os métodos descritos na literatura para a avaliação de usabilidade de produtos e serviços baseados em tecnologias de informação e comunicação. A metodologia utilizada foi a revisão sistemática da literatura, onde os estudos incluídos na análise foram classificados segundo os modelos (empírico ou analítico), os métodos (teste, inquérito, inspeção ou experiência controlada) e técnicas utilizadas. Na pesquisa foram incluídos 2116 estudos, dos quais 1308 foram classificados. O método inquérito foi o método mais frequente nesta revisão, seguido dos métodos teste e inspeção e, por fim, do método baseado em experiências controladas. A combinação de métodos é relativamente frequente, especialmente a combinação dos métodos teste e inquérito, provavelmente porque a utilização dos dois permite recolher informação quantitativa e qualitativa contribuindo para uma avaliação mais completa.]]></p></abstract>
<abstract abstract-type="short" xml:lang="en"><p><![CDATA[The aim of this study is to identify, analyze and classify the methods described in the literature for the evaluation of the usability of products and services based on information and communication technologies. The methodology used was a systematic review of the literature. The studies included in the analysis were classified according to the models (empirical or analytical), methods (test, inquiry, inspection or controlled experiment) and techniques used. A total of 2116 studies were included in the survey, of which 1308 were classified. The inquiry method was the most frequent in this review, followed by the test method, the inspection method and, finally, the controlled experiment method. A combination of methods is relatively common, especially the combination of test and inquiry methods, probably because the use of the two allows to collect quantitative and qualitative information contributing to a more complete assessment.]]></p></abstract>
<kwd-group>
<kwd lng="pt"><![CDATA[Avaliação de Usabilidade]]></kwd>
<kwd lng="pt"><![CDATA[Teste de Usabilidade]]></kwd>
<kwd lng="pt"><![CDATA[Revisão Sistemática]]></kwd>
<kwd lng="en"><![CDATA[Usability Evaluation]]></kwd>
<kwd lng="en"><![CDATA[Usability Testing]]></kwd>
<kwd lng="en"><![CDATA[Systematic Review]]></kwd>
</kwd-group>
</article-meta>
</front><body><![CDATA[ <p><b>Avalia&ccedil;&atilde;o de Usabilidade: Uma Revis&atilde;o Sistem&aacute;tica da Literatura</b></p>     <p>&nbsp;</p>     <p><b>Ana Isabel Martins<sup>1</sup>, Alexandra Queir&oacute;s<sup>2</sup>, Nelson Pacheco Rocha<sup>1</sup>, Beatriz Sousa Santos<sup>3</sup></b></p>     <p><sup>1</sup> Sec&ccedil;&atilde;o Aut&oacute;noma das Ci&ecirc;ncias da Sa&uacute;de, Instituto de Engenharia Eletr&oacute;nica e Telem&aacute;tica de Aveiro, Universidade de Aveiro, Campo Universit&aacute;rio de Santiago, 3810-193 Aveiro, Portugal E-mail: <a href="mailto:anaisabelmartins@ua.pt">anaisabelmartins@ua.pt</a>, <a href="mailto:npr@ua.pt">npr@ua.pt</a></p>     <p><sup>2</sup> Escola Superior de Sa&uacute;de da Universidade de Aveiro, Campo Universit&aacute;rio de Santiago, 3810-193 Aveiro, Portugal E-mail: <a href="mailto:alexandra@ua.pt">alexandra@ua.pt</a></p>     <p><sup>3</sup> Departamento de Eletr&oacute;nica, Telecomunica&ccedil;&otilde;es e Inform&aacute;tica, Instituto de Engenharia Eletr&oacute;nica e Telem&aacute;tica de Aveiro, Universidade de Aveiro, Campo Universit&aacute;rio de Santiago, 3810-193 Aveiro, Portugal E-mail: <a href="mailto:bss@ua.pt">bss@ua.pt</a></p>     <p>&nbsp;</p>     <p><b>RESUMO</b></p>     <p>O objetivo deste estudo &eacute; identificar, analisar e classificar os m&eacute;todos descritos na literatura para a avalia&ccedil;&atilde;o de usabilidade de produtos e servi&ccedil;os baseados em tecnologias de informa&ccedil;&atilde;o e comunica&ccedil;&atilde;o. <br /> A metodologia utilizada foi a revis&atilde;o sistem&aacute;tica da literatura, onde os estudos inclu&iacute;dos na an&aacute;lise foram classificados segundo os modelos (emp&iacute;rico ou anal&iacute;tico), os m&eacute;todos (teste, inqu&eacute;rito, inspe&ccedil;&atilde;o ou experi&ecirc;ncia controlada) e t&eacute;cnicas utilizadas. Na pesquisa foram inclu&iacute;dos 2116 estudos, dos quais 1308 foram classificados. O m&eacute;todo inqu&eacute;rito foi o m&eacute;todo mais frequente nesta revis&atilde;o, seguido dos m&eacute;todos teste e inspe&ccedil;&atilde;o e, por fim, do m&eacute;todo baseado em experi&ecirc;ncias controladas. A combina&ccedil;&atilde;o de m&eacute;todos &eacute; relativamente frequente, especialmente a combina&ccedil;&atilde;o dos m&eacute;todos teste e inqu&eacute;rito, provavelmente porque a utiliza&ccedil;&atilde;o dos dois permite recolher informa&ccedil;&atilde;o quantitativa e qualitativa contribuindo para uma avalia&ccedil;&atilde;o mais completa.</p>     <p><b>Palavras-chave</b>: Avalia&ccedil;&atilde;o de Usabilidade; Teste de Usabilidade; Revis&atilde;o Sistem&aacute;tica.</p>     ]]></body>
<body><![CDATA[<p>&nbsp;</p>     <p><b>ABSTRACT</b></p>     <p>The aim of this study is to identify, analyze and classify the methods described in the literature for the evaluation of the usability of products and services based on information and communication technologies.<br /> The methodology used was a systematic review of the literature. The studies included in the analysis were classified according to the models (empirical or analytical), methods (test, inquiry, inspection or controlled experiment) and techniques used. A total of 2116 studies were included in the survey, of which 1308 were classified. The inquiry method was the most frequent in this review, followed by the test method, the inspection method and, finally, the controlled experiment method. A combination of methods is relatively common, especially the combination of test and inquiry methods, probably because the use of the two allows to collect quantitative and qualitative information contributing to a more complete assessment.</p>     <p><b>Key-words</b>: Usability Evaluation; Usability Testing; Systematic Review.</p>     <p>&nbsp;</p>     <p><b>1. Introdu&ccedil;&atilde;o</b></p>     <p>Assiste-se, atualmente, a uma enorme dissemina&ccedil;&atilde;o das tecnologias digitais com o objetivo de tornarem a nossa vida mais f&aacute;cil e funcional (Best &amp; Smyth, 2011).</p>     <p>Ao fen&oacute;meno global de dissemina&ccedil;&atilde;o tecnol&oacute;gica est&aacute; associada uma crescente import&acirc;ncia da facilidade de utiliza&ccedil;&atilde;o das tecnologias dispon&iacute;veis e dos servi&ccedil;os que elas suportam. A aceita&ccedil;&atilde;o de servi&ccedil;os e dispositivos tecnol&oacute;gicos depende de v&aacute;rios fatores tais como o <i>design</i>, os recursos financeiros dispon&iacute;veis, o contexto dos utilizadores, as pr&oacute;prias fun&ccedil;&otilde;es disponibilizadas e o seu mapeamento com as capacidades e compet&ecirc;ncias dos utilizadores finais, ou seja o seu grau de usabilidade.</p>     <p>Desde que surgiu, na d&eacute;cada de 80 do s&eacute;culo passado, o termo usabilidade foi muitas vezes usado para se referir &agrave; capacidade de um produto ser facilmente utilizado (Carrol, 2009). Tal coincide com a perspetiva de usabilidade como uma qualidade do <i>software</i>, ou seja atributos de <i>software</i> que incidem sobre o esfor&ccedil;o necess&aacute;rio para a sua utiliza&ccedil;&atilde;o e sobre a avalia&ccedil;&atilde;o individual de tal uso por um conjunto expl&iacute;cito ou impl&iacute;cito de utilizadores (ISO 9126-1, 2001).</p>     <p>Durante os anos 90 da d&eacute;cada passada, o entendimento sobre usabilidade mudou de uma propriedade bin&aacute;ria de tudo ou nada para uma propriedade cont&iacute;nua que abrange diferentes extens&otilde;es de usabilidade. Esta passou a estar relacionada com o suporte aos utilizadores para atingirem um objetivo e n&atilde;o apenas uma caracter&iacute;stica da gest&atilde;o da intera&ccedil;&atilde;o com o utilizador (Cockton, 2012). De acordo com a <i>International Organization for Standardization</i> (ISO), a usabilidade pode ser encarada como uma medida de como um produto pode ser usado por utilizadores espec&iacute;ficos para alcan&ccedil;ar objetivos espec&iacute;ficos com efic&aacute;cia, efici&ecirc;ncia e satisfa&ccedil;&atilde;o, num contexto de utiliza&ccedil;&atilde;o espec&iacute;fico (ISO 9241-11, 1998; Nielsen, 2003). A palavra usabilidade refere-se ainda aos m&eacute;todos utilizados para melhorar a facilidade de utiliza&ccedil;&atilde;o durante o processo de desenvolvimento (Nielsen, 2003).</p>     ]]></body>
<body><![CDATA[<p>Dentro da Intera&ccedil;&atilde;o Humano-Computador (IHC), o conceito de usabilidade foi sendo reconstru&iacute;do continuamente e tornou-se cada vez mais rico e problem&aacute;tico. A usabilidade integra, agora, qualidades como divers&atilde;o, bem-estar, efic&aacute;cia coletiva, est&eacute;tica, criatividade, suporte para o desenvolvimento humano, entre outras. O entendimento atual da usabilidade &eacute;, portanto, diferente do dos primeiros passos da IHC na d&eacute;cada de 80. Na mudan&ccedil;a de s&eacute;culo, a ascens&atilde;o dos servi&ccedil;os digitais (por exemplo, a <i>web</i>, o telem&oacute;vel ou a televis&atilde;o interativa) acrescentou novas preocupa&ccedil;&otilde;es &agrave; IHC, dando origem a um outro conceito ainda mais significativo do que a usabilidade: a experi&ecirc;ncia do utilizador (Cockton, 2012).</p>     <p>A experi&ecirc;ncia do utilizador vai al&eacute;m da efici&ecirc;ncia, qualidade das tarefas e satisfa&ccedil;&atilde;o do utilizador, pois considera os aspetos cognitivos, afetivos, sociais e f&iacute;sicos da intera&ccedil;&atilde;o. Nesta perspetiva, a experi&ecirc;ncia do utilizador contextualiza a usabilidade. J&aacute; n&atilde;o se espera que a usabilidade estabele&ccedil;a o seu valor de forma isolada, mas que seja um dos contributos complementares para um projeto de qualidade que n&atilde;o se concentre apenas em caracter&iacute;sticas e atributos dos sistemas (Martins <i>et al</i>., 2011), nomeadamente se s&atilde;o inerentemente utiliz&aacute;veis ou n&atilde;o, mas tamb&eacute;m no que acontece quando os sistemas s&atilde;o utilizados. Tal permite contemplar aspetos como divers&atilde;o, bem-estar, efic&aacute;cia, est&eacute;tica, criatividade e suporte para o desenvolvimento humano, entre outros (Cockton, 2012).</p>     <p>A melhoria da usabilidade apresenta diversos benef&iacute;cios, nomeadamente (Bevan, 1998; Bevan, Claridge &amp; Petrie, 2005):</p> <ul>     <li>Aumento da efic&aacute;cia e efici&ecirc;ncia: um sistema adaptado ao modo como o utilizador age permite uma intera&ccedil;&atilde;o mais eficaz e eficiente.</li>     <li>Maior produtividade: um mecanismo de intera&ccedil;&atilde;o utiliz&aacute;vel permite que o utilizador se concentre na tarefa e n&atilde;o na ferramenta, aumentando o seu desempenho em consequ&ecirc;ncia da qualidade da intera&ccedil;&atilde;o.</li>     <li>Redu&ccedil;&atilde;o de erros: se a gest&atilde;o da intera&ccedil;&atilde;o evitar inconsist&ecirc;ncias e ambiguidades reduz a probabilidade de erros por parte do utilizador.</li>     <li>Menor necessidade de forma&ccedil;&atilde;o: um sistema com um bom n&iacute;vel de usabilidade, projetado com base no utilizador final pode facilitar a curva de aprendizagem.</li>     <li>Melhoria da aceita&ccedil;&atilde;o: os utilizadores est&atilde;o mais propensos a confiar num sistema bem projetado com acesso a funcionalidades que tornem a informa&ccedil;&atilde;o f&aacute;cil de encontrar e utilizar.</li>     <li>Apoio a utilizadores com menos compet&ecirc;ncias tecnol&oacute;gicas: a exist&ecirc;ncia de sistemas complexos s&oacute; acess&iacute;veis a utilizadores especializados e com elevadas aptid&otilde;es t&eacute;cnicas conduz ao incremento do fosso entre aqueles que t&ecirc;m mais compet&ecirc;ncias tecnol&oacute;gicas e os que est&atilde;o menos preparados.</li>     <li>Apoio a utilizadores com necessidades especiais: se os sistemas tiverem um maior n&iacute;vel de usabilidade contribuir&atilde;o para minorar o impacto dos fatores ambientais e, consequentemente, aumentar o desempenho dos utilizadores com defici&ecirc;ncias (Martins, <i>et al</i>., 2012). Neste particular, o conceito <i>design for all</i> enfatiza a necessidade de acesso a sistemas de informa&ccedil;&atilde;o para a mais ampla gama poss&iacute;vel de utilizadores, principalmente os idosos e pessoas com limita&ccedil;&otilde;es ao n&iacute;vel das capacidades f&iacute;sicas e cognitivas.</li>     ]]></body>
<body><![CDATA[</ul>     <p>Apesar de todas as vantagens acima descritas existem tamb&eacute;m desafios &agrave; usabilidade. Desenvolver sistemas com uma boa usabilidade exige mudan&ccedil;as culturais, t&eacute;cnicas e compromissos estrat&eacute;gicos, tais como (Bevan, 1998):</p> <ul>     <li>Cultural: todos os que participam no desenvolvimento de um sistema devem estar cientes dos problemas envolvidos e das atividades necess&aacute;rias para um projeto centrado no utilizador para que sejam tomadas as melhores decis&otilde;es.</li>     <li>T&eacute;cnico: os processos de desenvolvimento e os procedimentos associados devem incluir m&eacute;todos e atividades de avalia&ccedil;&atilde;o de usabilidade apropriados &agrave;s diferentes tipologias de projetos.</li>     <li>Estrat&eacute;gico: uma boa usabilidade deve ser entendida por todas as partes interessadas como um objetivo essencial no desenvolvimento de qualquer sistema.</li>     </ul>     <p>A import&acirc;ncia da usabilidade tem sido abordada numa vasta lista de literatura acad&eacute;mica, tutoriais, estudos de caso e dissemina&ccedil;&atilde;o de boas pr&aacute;ticas (Best &amp; Smyth, 2011). Consequentemente, as organiza&ccedil;&otilde;es est&atilde;o cada vez mais conscientes para a quest&atilde;o da usabilidade, mas a orienta&ccedil;&atilde;o sobre como "fazer" usabilidade tende a estar focada na tecnologia, centrando-se em abordagens espec&iacute;ficas para a elabora&ccedil;&atilde;o ou avalia&ccedil;&atilde;o de sistemas (Bevan &amp; Curson, 1999). A grande maioria dos processos de desenvolvimento foca-se inteiramente nas especifica&ccedil;&otilde;es t&eacute;cnicas e processuais. Esta &eacute; uma das principais raz&otilde;es pela qual os sistemas s&atilde;o parcialmente utilizados, mal utilizados, n&atilde;o utilizados de todo ou ent&atilde;o n&atilde;o conseguem ganhar ampla aceita&ccedil;&atilde;o (Bevan <i>et al</i>., 2005). Em consequ&ecirc;ncia, s&atilde;o necess&aacute;rias metodologias que comportem processos c&iacute;clicos de an&aacute;lise, prototipagem, teste e refinamento das sucessivas propostas de mecanismos de intera&ccedil;&atilde;o com os utilizadores (Ivory &amp; Hearst, 2001; Rocha <i>et al</i>., 2013).</p>     <p>&nbsp;</p>     <p><b>2. Avalia&ccedil;&atilde;o de Usabilidade</b></p>     <p>Existem diferentes modelos de avalia&ccedil;&atilde;o de usabilidade. Certos modelos utilizam dados dos utilizadores, enquanto outros contam com especialistas na &aacute;rea da usabilidade. De acordo com (Dix <i>et al.</i>, 2004) os modelos de avalia&ccedil;&atilde;o de usabilidade que se baseiam em dados de utilizadores reais s&atilde;o designados por modelos emp&iacute;ricos, enquanto os modelos que se baseiam na an&aacute;lise de um sistema ou produto por especialistas na &aacute;rea da usabilidade s&atilde;o conhecidos por modelos anal&iacute;ticos.</p>     ]]></body>
<body><![CDATA[<p>Associados a cada um destes modelos existem v&aacute;rios m&eacute;todos de avalia&ccedil;&atilde;o de usabilidade para todas as fases de conce&ccedil;&atilde;o e desenvolvimento, desde a defini&ccedil;&atilde;o inicial at&eacute; &agrave;s altera&ccedil;&otilde;es finais do produto ou servi&ccedil;o (Hanington &amp; Martin, 2012).</p>     <p>Os quatro principais m&eacute;todos de avalia&ccedil;&atilde;o de usabilidade s&atilde;o: teste, inqu&eacute;rito, experi&ecirc;ncia controlada e inspe&ccedil;&atilde;o. Os tr&ecirc;s primeiros s&atilde;o normalmente utilizados nos modelos emp&iacute;ricos e baseiam-se em dados recolhidos dos utilizadores. O quarto est&aacute; relacionado com os modelos anal&iacute;ticos e baseia-se na inspe&ccedil;&atilde;o feita por especialistas.</p>     <p>O m&eacute;todo teste envolve a observa&ccedil;&atilde;o dos utilizadores enquanto eles realizam tarefas com um determinado produto ou servi&ccedil;o (Nielsen, 1993) e consiste na recolha de dados maioritariamente quantitativos e na procura de evid&ecirc;ncia emp&iacute;rica sobre como melhorar a usabilidade de mecanismos de intera&ccedil;&atilde;o(Hanington &amp; Martin, 2012).</p>     <p>Tais m&eacute;tricas podem estar relacionadas com quest&otilde;es simples como, por exemplo, se uma determinada tarefa pode ser conclu&iacute;da com sucesso, ou com quest&otilde;es relativamente complexas como, por exemplo, o grau de satisfa&ccedil;&atilde;o dos utilizadores finais pelo que, naturalmente, s&atilde;o muito vari&aacute;veis e dependem do &acirc;mbito e objetivos do sistema em concreto que se pretende avaliar. Assim, testar a usabilidade envolve, geralmente, a observa&ccedil;&atilde;o sistem&aacute;tica para determinar o qu&atilde;o bem os utilizadores conseguem realizar as tarefas propostas. O m&eacute;todo teste inclui v&aacute;rias t&eacute;cnicas de avalia&ccedil;&atilde;o de usabilidade, nomeadamente prototipagem r&aacute;pida, avalia&ccedil;&atilde;o de desempenho, observa&ccedil;&atilde;o, <i>hallway testing</i>, <i>rapid iterative</i> <i>testing and evaluation</i>, <i>think-aloud</i>, <i>Wizard of Oz</i>, <i>remote usability test</i> ou <i>co-discovery</i>.</p>     <p>O m&eacute;todo inqu&eacute;rito envolve a recolha de dados qualitativos dos utilizadores. Embora os dados recolhidos sejam subjetivos, eles fornecem informa&ccedil;&otilde;es valiosas sobre o que o utilizador deseja. Para a recolha de dados existem v&aacute;rias t&eacute;cnicas que podem ser consideradas, nomeadamente <i>focus group</i>, entrevistas, question&aacute;rios ou <i>diary studies.</i></p>     <p>O m&eacute;todo experi&ecirc;ncia controlada pressup&otilde;e a aplica&ccedil;&atilde;o do m&eacute;todo cient&iacute;fico para testar uma hip&oacute;tese com utilizadores reais atrav&eacute;s do controlo de vari&aacute;veis e utilizando uma amostra de dimens&atilde;o suficiente para se determinar signific&acirc;ncia estat&iacute;stica. Devido &agrave; sua natureza controlada este &eacute; o m&eacute;todo menos afetado por enviesamento, mas tamb&eacute;m o mais dif&iacute;cil de implementar devido ao n&uacute;mero de participantes e quest&otilde;es log&iacute;sticas associadas ao controlo de vari&aacute;veis (Rubin &amp; Chisnell, 2008).</p>     <p>O m&eacute;todo inspe&ccedil;&atilde;o envolve a participa&ccedil;&atilde;o de peritos para avaliar os diferentes aspetos da intera&ccedil;&atilde;o do utilizador com um dado sistema. O m&eacute;todo inspe&ccedil;&atilde;o pode incluir t&eacute;cnicas como a avalia&ccedil;&atilde;o heur&iacute;stica, a <i>cognitive walkthrough</i>, a inspe&ccedil;&atilde;o de consist&ecirc;ncia, a inspe&ccedil;&atilde;o pluralista ou a an&aacute;lise de tarefas.</p>     <p>&nbsp;</p>     <p><b>3. Revis&atilde;o Sistem&aacute;tica da Literatura</b></p>     <p>A revis&atilde;o sistem&aacute;tica da literatura sobre a avalia&ccedil;&atilde;o de usabilidade realizada incidiu sobre os artigos publicados desde 1 janeiro de 2010 a 31 de dezembro de 2012. Para cada refer&ecirc;ncia inclu&iacute;da na revis&atilde;o classificaram-se o(s) modelo(s), m&eacute;todo(s) e t&eacute;cnica(s) utilizados para a avalia&ccedil;&atilde;o, sempre que os resumos dos artigos permitiram tal classifica&ccedil;&atilde;o.</p>     ]]></body>
<body><![CDATA[<p>Para a realiza&ccedil;&atilde;o deste estudo formulou-se a seguinte quest&atilde;o de investiga&ccedil;&atilde;o: Quais s&atilde;o os modelos, m&eacute;todos e t&eacute;cnicas que est&atilde;o a ser utilizados na avalia&ccedil;&atilde;o de usabilidade de produtos e servi&ccedil;os baseados em tecnologias de informa&ccedil;&atilde;o e comunica&ccedil;&atilde;o?</p>     <p>A metodologia utilizada para a realiza&ccedil;&atilde;o desta revis&atilde;o sistem&aacute;tica encontra-se detalhada nas subsec&ccedil;&otilde;es seguintes.</p>     <p>A. Recolha de Dados</p>     <p>A express&atilde;o utilizada para a pesquisa foi a seguinte: "<i>usability evaluation</i>" <i>or</i> "<i>usability test</i>" <i>or</i> “<i>usability testing</i>” <i>or</i> “<i>user centered</i>”. Para limitar o n&uacute;mero de refer&ecirc;ncias, a pesquisa foi realizada no <i>topic</i>. O <i>topic</i> inclui pesquisa no t&iacute;tulo, resumo, palavras-chave do estudo e palavras-chave do autor. As refer&ecirc;ncias inclu&iacute;das nesta revis&atilde;o foram recolhidas da <i>Web of Science,</i> pois esta base de dados indexa mais de 12.000 revistas de impacto em todo o mundo, incluindo revistas como as da <i>Association for Computing Machinery</i> (ACM)<i> Digital Library</i> ou as do <i>Institute of Electrical and Electronics Engineers </i>(IEEE). A pesquisa foi realizada no dia 6 de Janeiro de 2013.</p>     <p>B. Sele&ccedil;&atilde;o dos Estudos</p>     <p>Da pesquisa na <i>Web of Science</i> resultaram 2116 refer&ecirc;ncias, das quais 808 foram exclu&iacute;das: 69 por estarem em duplicado, 171 por n&atilde;o terem resumo e 568 por sa&iacute;rem fora do &acirc;mbito de investiga&ccedil;&atilde;o (<a href="#f1">Figura 1</a>). Neste &uacute;ltimo grupo inclu&iacute;ram-se todos os estudos que utilizam o termo usabilidade com um significado diferente daquele que &eacute; utilizado neste artigo. Alguns estudos mencionam usabilidade como sendo “utiliz&aacute;vel” (por exemplo, a usabilidade da &aacute;gua). No total, 1308 refer&ecirc;ncias foram objeto de uma an&aacute;lise mais detalhada.</p>     <p>&nbsp;</p> <a name="f1"> <img src="/img/revistas/rist/n11/n11a04f1.jpg">     
<p>&nbsp;</p>     <p>Todos os estudos objeto desta an&aacute;lise mais detalhada obedeceram ao seguinte crit&eacute;rio de inclus&atilde;o: fazer refer&ecirc;ncia a uma avalia&ccedil;&atilde;o de usabilidade de um produto ou servi&ccedil;o baseado em tecnologias de informa&ccedil;&atilde;o e comunica&ccedil;&atilde;o.</p>     <p>A maior parte dos artigos que satisfazem o crit&eacute;rio de inclus&atilde;o cont&ecirc;m informa&ccedil;&atilde;o suficiente para identificar os modelos, m&eacute;todos e t&eacute;cnicas utilizados. Outros, por&eacute;m, apenas cont&ecirc;m informa&ccedil;&atilde;o parcelar como os que apenas indicam que a avalia&ccedil;&atilde;o realizada envolveu utilizadores, o que apenas permite identificar o tipo de modelo, neste caso emp&iacute;rico. Todos estes estudos foram inclu&iacute;dos numa categoria designada por avalia - com informa&ccedil;&atilde;o.</p>     ]]></body>
<body><![CDATA[<p>Adicionalmente, foram consideradas as seguintes categorias:</p> <ul>     <li>Avalia - sem informa&ccedil;&atilde;o - para os casos em que o crit&eacute;rio de inclus&atilde;o &eacute; satisfeito mas que n&atilde;o h&aacute; qualquer informa&ccedil;&atilde;o sobre os modelos, os m&eacute;todos e as t&eacute;cnicas utilizados para a avalia&ccedil;&atilde;o de usabilidade.</li>     <li>Sem informa&ccedil;&atilde;o sobre a avalia&ccedil;&atilde;o - categoria que &eacute; utilizada nos casos em que &eacute; referida uma avalia&ccedil;&atilde;o, mas que n&atilde;o &eacute; expl&iacute;cito se essa avalia&ccedil;&atilde;o &eacute; efetivamente uma avalia&ccedil;&atilde;o de usabilidade.</li>     <li>N&atilde;o avalia - esta categoria &eacute; utilizada quando os autores referem claramente que a usabilidade n&atilde;o foi avaliada como, por exemplo, quando indicam que esta ser&aacute; realizada em trabalhos futuros ou quando se tratam de estudos de base conceptual, nomeadamente artigos de revis&atilde;o (Freire, Arezes &amp; Campos, 2012; Yamaoka &amp; Tukuda, 2011).</li>     <li>Ferramentas - para classificar os estudos que n&atilde;o avaliam usabilidade mas que apresentam ferramentas ou linhas orientadoras para avalia&ccedil;&atilde;o ou melhoria da usabilidade (Elling, Lentz &amp; de Jong, 2012; Weinhold, Oettl &amp; Bekavac, 2012).</li>     </ul>     <p>O diagrama da <a href="#f2">Figura 2</a> ilustra o processo de classifica&ccedil;&atilde;o dos estudos inclu&iacute;dos na revis&atilde;o.</p>     <p>&nbsp;</p> <a name="f2"> <img src="/img/revistas/rist/n11/n11a04f2.jpg">     
<p>&nbsp;</p>     <p>Para a realiza&ccedil;&atilde;o desta classifica&ccedil;&atilde;o criou-se uma base de dados com todas as informa&ccedil;&otilde;es necess&aacute;rias para responder &agrave;s quest&otilde;es de investiga&ccedil;&atilde;o e possibilitar a an&aacute;lise dos dados. Nesta base de dados incluiu-se para cada estudo o ano de publica&ccedil;&atilde;o, autores, t&iacute;tulo da publica&ccedil;&atilde;o, modelo(s), m&eacute;todo(s) e t&eacute;cnica(s) utilizados na avalia&ccedil;&atilde;o. A an&aacute;lise dos dados foi realizada utilizando as ferramentas estat&iacute;sticas do <i>Microsoft Excel</i> 2013.</p>     ]]></body>
<body><![CDATA[<p>&nbsp;</p>     <p><b>4. Resultados</b></p>     <p>Nesta sec&ccedil;&atilde;o s&atilde;o apresentados os resultados referentes aos estudos inclu&iacute;dos para an&aacute;lise detalhada, ou seja 1308 estudos. Destes, a maioria (621) t&ecirc;m a indica&ccedil;&atilde;o dos modelos, m&eacute;todos e t&eacute;cnicas utilizados para a avalia&ccedil;&atilde;o de usabilidade, 236 foram classificados como Avalia - sem informa&ccedil;&atilde;o, 265 referem a realiza&ccedil;&atilde;o de uma avalia&ccedil;&atilde;o (no entanto n&atilde;o apresentam informa&ccedil;&atilde;o sobre a avalia&ccedil;&atilde;o de usabilidade), 52 n&atilde;o avaliam usabilidade e 134 s&atilde;o ferramentas ou linhas orientadoras para a avalia&ccedil;&atilde;o de usabilidade. O gr&aacute;fico da <a href="#f3">Figura 3</a> ilustra a distribui&ccedil;&atilde;o por categorias.</p>     <p>&nbsp;</p> <a name="f3"> <img src="/img/revistas/rist/n11/n11a04f3.jpg">     
<p>&nbsp;</p>     <p>Dos 621 estudos que cont&ecirc;m indica&ccedil;&atilde;o dos modelos, m&eacute;todos e t&eacute;cnicas, v&aacute;rios utilizam mais do que um modelo, o que justifica os seguintes valores: 591 estudos envolveram avalia&ccedil;&otilde;es com utilizadores (modelo emp&iacute;rico) e 67 realizaram avalia&ccedil;&otilde;es envolvendo apenas especialistas.</p>     <p>Adicionalmente, dos estudos emp&iacute;ricos analisados 211 utilizaram o m&eacute;todo teste, 278 utilizaram o m&eacute;todo inqu&eacute;rito e 3 utilizaram o m&eacute;todo experi&ecirc;ncia controlada. Relativamente ao m&eacute;todo teste, a t&eacute;cnica que apareceu mais frequentemente foi a avalia&ccedil;&atilde;o de desempenho com 122 estudos. A t&eacute;cnica observa&ccedil;&atilde;o foi utilizada em 47 estudos, seguido da t&eacute;cnica <i>think-aloud</i> com 38 estudos. Quer a t&eacute;cnica simula&ccedil;&atilde;o quer a t&eacute;cnica prototipagem r&aacute;pida foram referidas em 9 estudos. O gr&aacute;fico da <a href="#f4">Figura 4</a> apresenta a distribui&ccedil;&atilde;o de estudos classificados de acordo com as t&eacute;cnicas de teste.</p>     <p>&nbsp;</p> <a name="f4"> <img src="/img/revistas/rist/n11/n11a04f4.jpg">     
<p>&nbsp;</p>     <p>A t&eacute;cnica que recorre ao preenchimento de question&aacute;rios foi a mais frequente do m&eacute;todo inqu&eacute;rito com 194 estudos, seguindo-se a t&eacute;cnica entrevista com 77 estudos. A t&eacute;cnica <i>focus group</i> foi referida em 30 estudos e a t&eacute;cnica menos mencionada foi a <i>diary study</i> (2 estudos). O gr&aacute;fico da <a href="#f5">Figura 5</a> apresenta a distribui&ccedil;&atilde;o de estudos classificados de acordo com as t&eacute;cnicas de inqu&eacute;rito.</p>     ]]></body>
<body><![CDATA[<p>&nbsp;</p> <a name="f5"> <img src="/img/revistas/rist/n11/n11a04f5.jpg">     
<p>&nbsp;</p>     <p>No que diz respeito aos estudos que realizaram avalia&ccedil;&atilde;o envolvendo especialistas (anal&iacute;ticos), o m&eacute;todo inspe&ccedil;&atilde;o foi utilizado em 60 estudos. Nestes, a t&eacute;cnica avalia&ccedil;&atilde;o heur&iacute;stica foi a mais utilizada (53 artigos), seguido das t&eacute;cnicas <i>cognitive walkthrough</i> e an&aacute;lise de tarefas com 9 e 4 estudos, respetivamente (ver o gr&aacute;fico da <a href="#f6">Figura 6</a>).</p>     <p>&nbsp;</p> <a name="f6"> <img src="/img/revistas/rist/n11/n11a04f6.jpg">     
<p>&nbsp;</p>     <p>Nesta revis&atilde;o sistem&aacute;tica da literatura verificou-se que v&aacute;rios estudos recorreram &agrave; combina&ccedil;&atilde;o de v&aacute;rios m&eacute;todos. Dos 211 estudos que utilizaram o m&eacute;todo teste, 102 tamb&eacute;m utilizaram o m&eacute;todo inqu&eacute;rito e 19 utilizaram o m&eacute;todo inspe&ccedil;&atilde;o.</p>     <p>Dos 278 estudos que utilizaram o m&eacute;todo inqu&eacute;rito, 6 recorreram tamb&eacute;m ao m&eacute;todo inspe&ccedil;&atilde;o. Al&eacute;m disso, 9 estudos utilizaram, em simult&acirc;neo, tr&ecirc;s m&eacute;todos de avalia&ccedil;&atilde;o (teste, inqu&eacute;rito e inspe&ccedil;&atilde;o).</p>     <p>&nbsp;</p>     <p><b>5. Discuss&atilde;o</b></p>     <p>Esta revis&atilde;o sistem&aacute;tica permitiu a constru&ccedil;&atilde;o de uma vis&atilde;o global sobre os modelos, m&eacute;todos e t&eacute;cnicas de avalia&ccedil;&atilde;o de usabilidade que t&ecirc;m sido utilizados nos &uacute;ltimos tr&ecirc;s anos, atrav&eacute;s da utiliza&ccedil;&atilde;o de uma metodologia sistem&aacute;tica.</p>     ]]></body>
<body><![CDATA[<p>Todos os m&eacute;todos de avalia&ccedil;&atilde;o apresentados nas sec&ccedil;&otilde;es introdut&oacute;rias deste artigo (teste, inqu&eacute;rito, inspe&ccedil;&atilde;o e experi&ecirc;ncia controlada) foram identificados nos estudos inclu&iacute;dos na revis&atilde;o sistem&aacute;tica. Tal como referido na literatura, tamb&eacute;m esta revis&atilde;o revelou que o modelo emp&iacute;rico (que comporta os m&eacute;todos teste, inqu&eacute;rito e experi&ecirc;ncia controlada) &eacute; o mais frequentemente utilizado, o que parece indicar um reconhecimento do papel dos utilizadores enquanto fonte de conhecimento para a avalia&ccedil;&atilde;o de usabilidade. O reduzido n&uacute;mero de estudos identificados nesta revis&atilde;o sistem&aacute;tica que utilizaram experi&ecirc;ncias controladas, poder&aacute; dever-se ao facto do m&eacute;todo experi&ecirc;ncia controlada requerer um elevado n&uacute;mero de recursos, quer em termos log&iacute;sticos, quer em termos do tamanho da amostra.</p>     <p>No &acirc;mbito do m&eacute;todo teste, a t&eacute;cnica mais utilizada, com uma grande diferen&ccedil;a em rela&ccedil;&atilde;o &agrave;s restantes, foi a avalia&ccedil;&atilde;o de desempenho. Trata-se de uma t&eacute;cnica de avalia&ccedil;&atilde;o de usabilidade centrada no utilizador e nas tarefas que este executa e envolve a recolha de dados quantitativos. A avalia&ccedil;&atilde;o de desempenho do utilizador &eacute; realizada atrav&eacute;s do registo de elementos relacionados com a execu&ccedil;&atilde;o de determinada tarefa, nomeadamente dura&ccedil;&atilde;o, sucesso ou n&uacute;mero de erros. Por outro lado, no &acirc;mbito do m&eacute;todo inqu&eacute;rito, a t&eacute;cnica mais frequentemente utilizada, e novamente com uma grande diferen&ccedil;a em rela&ccedil;&atilde;o &agrave;s restantes, &eacute; o question&aacute;rio. Os question&aacute;rios s&atilde;o instrumentos para recolha de informa&ccedil;&atilde;o qualitativa e auto-reportada sobre as caracter&iacute;sticas, pensamentos, sentimentos, perce&ccedil;&otilde;es, comportamentos ou atitudes dos utilizadores, normalmente de forma escrita.</p>     <p>Algumas t&eacute;cnicas, no entanto, n&atilde;o foram identificadas em qualquer um dos estudos, provavelmente porque o n&uacute;mero de estudos n&atilde;o foi suficientemente extenso para abranger todas as t&eacute;cnicas ou porque estas s&atilde;o pouco utilizadas como, por exemplo, a t&eacute;cnica <i>co-discovery</i>. Se a pesquisa tivesse incidido no estudo completo, ao inv&eacute;s de apenas no <i>topic</i>, o n&uacute;mero de refer&ecirc;ncias potencialmente relevantes para a an&aacute;lise seria muito maior, e provavelmente incluiria todas as t&eacute;cnicas dispon&iacute;veis. Efetivamente, um estudo pode mencionar uma avalia&ccedil;&atilde;o de usabilidade, mas se esta n&atilde;o tiver sido um dos objetivos principais do trabalho, pode n&atilde;o ter sido mencionada no <i>topic</i> e, consequentemente, n&atilde;o pode ser alvo da an&aacute;lise efetuada.</p>     <p>A avalia&ccedil;&atilde;o de usabilidade &eacute; uma tarefa complexa e a utiliza&ccedil;&atilde;o de apenas um m&eacute;todo pode n&atilde;o ser suficientemente abrangente e completa para avaliar de forma profunda todas as quest&otilde;es pertinentes associadas a um determinado produto ou servi&ccedil;o. Um grande n&uacute;mero de estudos realizou avalia&ccedil;&otilde;es de usabilidade recorrendo &agrave; combina&ccedil;&atilde;o de diferentes m&eacute;todos.</p>     <p>A combina&ccedil;&atilde;o de m&eacute;todos permite uma avalia&ccedil;&atilde;o abrangente das v&aacute;rias caracter&iacute;sticas de um produto ou servi&ccedil;o. A combina&ccedil;&atilde;o de m&eacute;todos mais frequente nesta revis&atilde;o foi a combina&ccedil;&atilde;o dos m&eacute;todos teste e inqu&eacute;rito, nomeadamente nas t&eacute;cnicas avalia&ccedil;&atilde;o de desempenho e question&aacute;rios. Uma poss&iacute;vel explica&ccedil;&atilde;o corresponde ao facto do m&eacute;todo teste ser mais objetivo, resultando normalmente em dados quantitativos (como &eacute; o caso da avalia&ccedil;&atilde;o de desempenho) e o m&eacute;todo inqu&eacute;rito que tem um car&aacute;cter mais subjetivo, resultando normalmente em dados qualitativos (como &eacute; o caso dos question&aacute;rios). Neste sentido, estes m&eacute;todos complementam-se e resultam numa avalia&ccedil;&atilde;o mais abrangente e hol&iacute;stica. (Hanington &amp; Martin, 2012) sugerem que a combina&ccedil;&atilde;o de v&aacute;rios m&eacute;todos para avalia&ccedil;&atilde;o de usabilidade acontece porque estes est&atilde;o especificados de modo muito incompleto para poderem ser aplicados de forma consistente. Por essa raz&atilde;o, pode esperar-se que a avalia&ccedil;&atilde;o de usabilidade envolva uma combina&ccedil;&atilde;o de v&aacute;rios m&eacute;todos (Hanington &amp; Martin, 2012).</p>     <p>Outro aspeto a salientar &eacute; que um grande n&uacute;mero de estudos (236) referem ter feito uma avalia&ccedil;&atilde;o de usabilidade. No entanto, n&atilde;o fazem refer&ecirc;ncia ao modo como a operacionalizaram, o que parece indicar que alguns autores n&atilde;o reconhecem a import&acirc;ncia de descrever a metodologia utilizada na avalia&ccedil;&atilde;o de usabilidade.</p>     <p>Verificou-se tamb&eacute;m que em muitos estudos o termo usabilidade foi empregue de modo inconsistente, referindo-se a um produto ou servi&ccedil;o ser “utiliz&aacute;vel” e n&atilde;o com o significado que foi considerado neste artigo. Esta inconsist&ecirc;ncia ao n&iacute;vel da nomenclatura &eacute; um indicador de que seria necess&aacute;ria uma normaliza&ccedil;&atilde;o de terminologias.</p>     <p>Apesar disso, e tendo em conta que a maioria dos estudos indicam os modelos, m&eacute;todos e t&eacute;cnicas utilizados para a avalia&ccedil;&atilde;o de usabilidade (621), verifica-se que se trata de uma &aacute;rea de import&acirc;ncia reconhecida pelos profissionais. O elevado n&uacute;mero de estudos classificados como ferramentas assim o demonstra, sendo percet&iacute;vel uma preocupa&ccedil;&atilde;o em desenvolver e criar instrumentos que facilitam a avalia&ccedil;&atilde;o de usabilidade.</p>     <p>&nbsp;</p>     <p><b>Refer&ecirc;ncias</b></p>     ]]></body>
<body><![CDATA[<!-- ref --><p>Best, M. L. &amp; Smyth, T. N. (2011). Global/Local Usability: Locally Contextualized Usability in the Global South. In Douglas, I. &amp; Liu, Z. (Ed.), <i>Global Usability</i>. London: Springer-Verlag.    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000103&pid=S1646-9895201300010000400001&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --></p>     <!-- ref --><p>Bevan, N. (1998). European Usability Support Centres: Support for a More Usable Information Society<i>.</i> In <i>Proceedings of TAP Annual Concertation Meeting</i>. Barcelona.    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000105&pid=S1646-9895201300010000400002&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --></p>     <!-- ref --><p>Bevan, N., Claridge, N. &amp; Petrie, H. (2005). Tenuta: Simplified Guidance for Usability and Accessibility<i>.</i> In <i>Proceedings of HCI International</i>. Las Vegas.    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000107&pid=S1646-9895201300010000400003&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --></p>     <!-- ref --><p>Bevan, N. &amp; Curson, I. (1999). Planning and Implementing User-Centred Design. In <i>CHI'99 Extended Abstracts on Human Factors in Computing Systems</i>, 137-138. Pittsburgh.    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000109&pid=S1646-9895201300010000400004&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --></p>     <!-- ref --><p>Carrol, J. M. (2009). Human Computer Interaction (HCI). In Soegaard, M. &amp; Friis, R. (Ed.), <i>Encyclopedia of Human-Computer Interaction</i>. Aarhus: The Interaction Design Foundation.    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000111&pid=S1646-9895201300010000400005&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --></p>     ]]></body>
<body><![CDATA[<!-- ref --><p>Cockton, G. (2012). Usability Evaluation. In Soegaard, M. &amp; Friis, R. (Ed.), <i>Encyclopedia of Human-Computer Interaction</i>. Aarhus: The Interaction Design Foundation.    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000113&pid=S1646-9895201300010000400006&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --></p>     <!-- ref --><p>Dix, A., Finlay, J., Abowd, G. &amp; Beale, R. (2004). <i>Human Computer Interaction</i>. Upper Saddle River: Prentice Hall.    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000115&pid=S1646-9895201300010000400007&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --></p>     <!-- ref --><p>Elling, S., Lentz, L. &amp; de Jong, M. (2012). Combining Concurrent Think-Aloud Protocols and Eye-Tracking Observations: An Analysis of Verbalizations and Silences. <i>IEEE Transactions on Professional Communication, </i>55 (3), 206-220.    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000117&pid=S1646-9895201300010000400008&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --></p>     <!-- ref --><p>Freire, L. L., Arezes, P. M. &amp; Campos, J. C. (2012). A Literature Review about Usability Evaluation Methods for e-learning Platforms. <i>Work: A Journal of Prevention Assessment &amp; Rehabilitation, </i>41, 1038-1044.    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000119&pid=S1646-9895201300010000400009&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --></p>     <!-- ref --><p>Hanington, B. &amp; Martin, B. (2012). <i>Universal Methods of Design: 100 Ways to Research Complex Problems, Develop Innovative Ideas, and Design Effective Solutions</i>. Beverly, MA: Rockport Publishers.    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000121&pid=S1646-9895201300010000400010&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --></p>     ]]></body>
<body><![CDATA[<!-- ref --><p>ISO 9241-11 (1998). <i>Ergonomic Requirements for Office Work with Visual Display Terminals (VDTs) - Part 11: Guidance on Usability</i>. Geneva: International Organization for Standardization.    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000123&pid=S1646-9895201300010000400011&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --></p>     <!-- ref --><p>ISO 9126-1 (2001). <i>Information Technology - Software Product Quality - Part 1: Quality Model</i>. Geneva: International Organization for Standardization.    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000125&pid=S1646-9895201300010000400012&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --></p>     <!-- ref --><p>Ivory, M. &amp; Hearst, M. (2001). The State of the Art in Automating Usability Evaluation of User Interfaces. <i>Journal ACM Computing Surveys, </i>33 (4), 470-516.    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000127&pid=S1646-9895201300010000400013&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --></p>     <!-- ref --><p>Martins, A., Queir&oacute;s, A., Cerqueira, M., Alvarelh&atilde;o J., Teixeira, A. &amp; Rocha, N. (2011). Assessment of Ambient Assisted Living Services in a Living Lab Approach: a Methodology based on ICF. In <i>2nd International Living Usability Lab Workshop on AAL Latest Solutions, Trends and Applications - AAL 2012</i>. Algarve.    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000129&pid=S1646-9895201300010000400014&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --></p>     <!-- ref --><p>Martins, A., Queir&oacute;s, A., Cerqueira, M., Rocha, N., Teixeira, A. (2012) The International Classification of Functioning, Disability and Health as a Conceptual Model for the Evaluation of Environmental Factors. <i>Procedia Computer Science</i> (14) 293-300.    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000131&pid=S1646-9895201300010000400015&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --></p>     ]]></body>
<body><![CDATA[<!-- ref --><p>Nielsen, J. (1993). <i>Usability Engeneering</i>. Boston, Academic Press.    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000133&pid=S1646-9895201300010000400016&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --></p>     <!-- ref --><p>Nielsen, J. (2003). Usability 101: Introduction to Usability. Retrieved 20 June 2012, from <a href="http://useit.com/alertbox/20030825.html" target="_blank">http://useit.com/alertbox/20030825.html</a> &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000135&pid=S1646-9895201300010000400017&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --><!-- ref --><p>Rocha, N., Teixeira, A., Pacheco, O., Queir&oacute;s, A., Oliveira, C., Pereira, C. &amp; Martins, A. (2013). Desenvolvimento e Avalia&ccedil;&atilde;o Integrada de Sevi&ccedil;os AAL Inovadores - Uma Abordagem Living Lab. In <i>CISTI’2013 - 8&ordf; Confer&ecirc;ncia Ib&eacute;rica de Sistemas e T&eacute;cnologias de Informa&ccedil;&atilde;o</i>. Lisboa&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000136&pid=S1646-9895201300010000400018&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --><!-- ref --><p>Rubin, J. &amp; Chisnell, D. (2008). <i>Handbook of Usability Testing: How to Plan, Design, and Conduct Effective Tests</i>. Indianopolis: John Wiley &amp; Sons.    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000137&pid=S1646-9895201300010000400019&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --></p>     <p>Weinhold, T., Oettl, S. &amp; Bekavac, B. (2012). Heuristcs for the Evaluation of Library Online Catalogues. In Katsirikou, A. &amp; Skiadas, C. (Eds.), <i>New Trends in Qualitative and Quantitative Methods in Libraries</i>, 425-433. Chania: World Scientific Publishing Co.</p>     <!-- ref --><p>Yamaoka, T. &amp; Tukuda<b>, S.</b> (2011). A Proposal of Simple Usability Evaluation Method and its Application. In Wang, A. (Ed.), <i>Ergonomics for All: Celebrating PPCOE's 20 years of Excellence</i>, Vol. 11, 63-66. Taiwan: CRC Press.    &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;[&#160;<a href="javascript:void(0);" onclick="javascript: window.open('/scielo.php?script=sci_nlinks&ref=000140&pid=S1646-9895201300010000400021&lng=','','width=640,height=500,resizable=yes,scrollbars=1,menubar=yes,');">Links</a>&#160;]<!-- end-ref --></p>     <p>&nbsp;</p>     ]]></body>
<body><![CDATA[<p>Recebido / Recibido: 30/03/2013</p>     <p>Aceita&ccedil;&atilde;o / Aceptaci&oacute;n: 11/06/2013</p>     <p>&nbsp;</p>     <p><b>Agradecimentos</b></p>     <p>Este estudo foi parcialmente suportado pelo projeto N&ordm; 13852 I&amp;D “AAL4ALL - <i>Ambient Assisted Living for All</i>”, financiado pelo Programa Operacional Fatores de Competitividade (COMPETE) e pela Uni&atilde;o Europeia (Fundo Europeu de Desenvolvimento Regional - FEDER) no Quadro de Refer&ecirc;ncia Estrat&eacute;gica Nacional (QREN).</p>      ]]></body><back>
<ref-list>
<ref id="B1">
<nlm-citation citation-type="book">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Best]]></surname>
<given-names><![CDATA[M. L.]]></given-names>
</name>
<name>
<surname><![CDATA[Smyth]]></surname>
<given-names><![CDATA[T. N.]]></given-names>
</name>
</person-group>
<article-title xml:lang="en"><![CDATA[Global/Local Usability: Locally Contextualized Usability in the Global South]]></article-title>
<person-group person-group-type="editor">
<name>
<surname><![CDATA[Douglas]]></surname>
<given-names><![CDATA[I.]]></given-names>
</name>
<name>
<surname><![CDATA[Liu]]></surname>
<given-names><![CDATA[Z.]]></given-names>
</name>
</person-group>
<source><![CDATA[Global Usability]]></source>
<year>2011</year>
<publisher-loc><![CDATA[London ]]></publisher-loc>
<publisher-name><![CDATA[Springer-Verlag]]></publisher-name>
</nlm-citation>
</ref>
<ref id="B2">
<nlm-citation citation-type="confpro">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Bevan]]></surname>
<given-names><![CDATA[N.]]></given-names>
</name>
</person-group>
<article-title xml:lang="en"><![CDATA[European Usability Support Centres: Support for a More Usable Information Society]]></article-title>
<source><![CDATA[Proceedings]]></source>
<year>1998</year>
<conf-name><![CDATA[ TAP Annual Concertation Meeting]]></conf-name>
<conf-loc> </conf-loc>
<publisher-loc><![CDATA[Barcelona ]]></publisher-loc>
</nlm-citation>
</ref>
<ref id="B3">
<nlm-citation citation-type="confpro">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Bevan]]></surname>
<given-names><![CDATA[N.]]></given-names>
</name>
<name>
<surname><![CDATA[Claridge]]></surname>
<given-names><![CDATA[N.]]></given-names>
</name>
<name>
<surname><![CDATA[Petrie]]></surname>
<given-names><![CDATA[H.]]></given-names>
</name>
</person-group>
<article-title xml:lang="en"><![CDATA[Tenuta: Simplified Guidance for Usability and Accessibility]]></article-title>
<source><![CDATA[Proceedings]]></source>
<year>2005</year>
<conf-name><![CDATA[ HCI International]]></conf-name>
<conf-loc> </conf-loc>
<publisher-loc><![CDATA[Las Vegas ]]></publisher-loc>
</nlm-citation>
</ref>
<ref id="B4">
<nlm-citation citation-type="confpro">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Bevan]]></surname>
<given-names><![CDATA[N.]]></given-names>
</name>
<name>
<surname><![CDATA[Curson]]></surname>
<given-names><![CDATA[I.]]></given-names>
</name>
</person-group>
<article-title xml:lang="en"><![CDATA[Planning and Implementing User-Centred Design]]></article-title>
<source><![CDATA[]]></source>
<year>1999</year>
<conf-name><![CDATA[ CHI'99 Extended Abstracts on Human Factors in Computing Systems]]></conf-name>
<conf-loc> </conf-loc>
<page-range>137-138</page-range><publisher-loc><![CDATA[Pittsburgh ]]></publisher-loc>
</nlm-citation>
</ref>
<ref id="B5">
<nlm-citation citation-type="book">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Carrol]]></surname>
<given-names><![CDATA[J. M.]]></given-names>
</name>
</person-group>
<article-title xml:lang="en"><![CDATA[Human Computer Interaction (HCI)]]></article-title>
<person-group person-group-type="editor">
<name>
<surname><![CDATA[Soegaard]]></surname>
<given-names><![CDATA[M.]]></given-names>
</name>
<name>
<surname><![CDATA[Friis]]></surname>
<given-names><![CDATA[R.]]></given-names>
</name>
</person-group>
<source><![CDATA[Encyclopedia of Human-Computer Interaction]]></source>
<year>2009</year>
<publisher-loc><![CDATA[Aarhus ]]></publisher-loc>
<publisher-name><![CDATA[The Interaction Design Foundation]]></publisher-name>
</nlm-citation>
</ref>
<ref id="B6">
<nlm-citation citation-type="book">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Cockton]]></surname>
<given-names><![CDATA[G.]]></given-names>
</name>
</person-group>
<article-title xml:lang="en"><![CDATA[Usability Evaluation]]></article-title>
<person-group person-group-type="editor">
<name>
<surname><![CDATA[Soegaard]]></surname>
<given-names><![CDATA[M.]]></given-names>
</name>
<name>
<surname><![CDATA[Friis]]></surname>
<given-names><![CDATA[R.]]></given-names>
</name>
</person-group>
<source><![CDATA[Encyclopedia of Human-Computer Interaction]]></source>
<year>2012</year>
<publisher-loc><![CDATA[Aarhus ]]></publisher-loc>
<publisher-name><![CDATA[The Interaction Design Foundation]]></publisher-name>
</nlm-citation>
</ref>
<ref id="B7">
<nlm-citation citation-type="book">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Dix]]></surname>
<given-names><![CDATA[A.]]></given-names>
</name>
<name>
<surname><![CDATA[Finlay]]></surname>
<given-names><![CDATA[J.]]></given-names>
</name>
<name>
<surname><![CDATA[Abowd]]></surname>
<given-names><![CDATA[G.]]></given-names>
</name>
<name>
<surname><![CDATA[Beale]]></surname>
<given-names><![CDATA[R.]]></given-names>
</name>
</person-group>
<source><![CDATA[Human Computer Interaction]]></source>
<year>2004</year>
<publisher-loc><![CDATA[Upper Saddle River ]]></publisher-loc>
<publisher-name><![CDATA[Prentice Hall]]></publisher-name>
</nlm-citation>
</ref>
<ref id="B8">
<nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Elling]]></surname>
<given-names><![CDATA[S.]]></given-names>
</name>
<name>
<surname><![CDATA[Lentz]]></surname>
<given-names><![CDATA[L.]]></given-names>
</name>
<name>
<surname><![CDATA[de Jong]]></surname>
<given-names><![CDATA[M.]]></given-names>
</name>
</person-group>
<article-title xml:lang="en"><![CDATA[Combining Concurrent Think-Aloud Protocols and Eye-Tracking Observations: An Analysis of Verbalizations and Silences]]></article-title>
<source><![CDATA[IEEE Transactions on Professional Communication]]></source>
<year>2012</year>
<volume>55</volume>
<numero>3</numero>
<issue>3</issue>
<page-range>206-220</page-range></nlm-citation>
</ref>
<ref id="B9">
<nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Freire]]></surname>
<given-names><![CDATA[L. L.]]></given-names>
</name>
<name>
<surname><![CDATA[Arezes]]></surname>
<given-names><![CDATA[P. M.]]></given-names>
</name>
<name>
<surname><![CDATA[Campos]]></surname>
<given-names><![CDATA[J. C.]]></given-names>
</name>
</person-group>
<article-title xml:lang="en"><![CDATA[A Literature Review about Usability Evaluation Methods for e-learning Platforms]]></article-title>
<source><![CDATA[Work: A Journal of Prevention Assessment & Rehabilitation]]></source>
<year>2012</year>
<volume>41</volume>
<page-range>1038-1044</page-range></nlm-citation>
</ref>
<ref id="B10">
<nlm-citation citation-type="book">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Hanington]]></surname>
<given-names><![CDATA[B.]]></given-names>
</name>
<name>
<surname><![CDATA[Martin]]></surname>
<given-names><![CDATA[B.]]></given-names>
</name>
</person-group>
<source><![CDATA[Universal Methods of Design: 100 Ways to Research Complex Problems, Develop Innovative Ideas, and Design Effective Solutions]]></source>
<year>2012</year>
<publisher-loc><![CDATA[Beverly^eMA MA]]></publisher-loc>
<publisher-name><![CDATA[Rockport Publishers]]></publisher-name>
</nlm-citation>
</ref>
<ref id="B11">
<nlm-citation citation-type="book">
<collab>ISO 9241-11</collab>
<source><![CDATA[Ergonomic Requirements for Office Work with Visual Display Terminals (VDTs) - Part 11: Guidance on Usability]]></source>
<year>1998</year>
<publisher-loc><![CDATA[Geneva ]]></publisher-loc>
<publisher-name><![CDATA[International Organization for Standardization]]></publisher-name>
</nlm-citation>
</ref>
<ref id="B12">
<nlm-citation citation-type="book">
<collab>ISO 9126-1</collab>
<source><![CDATA[Information Technology - Software Product Quality - Part 1: Quality Model]]></source>
<year>2001</year>
<publisher-loc><![CDATA[Geneva ]]></publisher-loc>
<publisher-name><![CDATA[International Organization for Standardization]]></publisher-name>
</nlm-citation>
</ref>
<ref id="B13">
<nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Ivory]]></surname>
<given-names><![CDATA[M.]]></given-names>
</name>
<name>
<surname><![CDATA[Hearst]]></surname>
<given-names><![CDATA[M.]]></given-names>
</name>
</person-group>
<article-title xml:lang="en"><![CDATA[The State of the Art in Automating Usability Evaluation of User Interfaces]]></article-title>
<source><![CDATA[Journal ACM Computing Surveys]]></source>
<year>2001</year>
<volume>33</volume>
<numero>4</numero>
<issue>4</issue>
<page-range>470-516</page-range></nlm-citation>
</ref>
<ref id="B14">
<nlm-citation citation-type="confpro">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Martins]]></surname>
<given-names><![CDATA[A.]]></given-names>
</name>
<name>
<surname><![CDATA[Queirós]]></surname>
<given-names><![CDATA[A.]]></given-names>
</name>
<name>
<surname><![CDATA[Cerqueira]]></surname>
<given-names><![CDATA[M.]]></given-names>
</name>
<name>
<surname><![CDATA[Alvarelhão]]></surname>
<given-names><![CDATA[J.]]></given-names>
</name>
<name>
<surname><![CDATA[Teixeira]]></surname>
<given-names><![CDATA[A.]]></given-names>
</name>
<name>
<surname><![CDATA[Rocha]]></surname>
<given-names><![CDATA[N.]]></given-names>
</name>
</person-group>
<article-title xml:lang="en"><![CDATA[Assessment of Ambient Assisted Living Services in a Living Lab Approach: a Methodology based on ICF]]></article-title>
<source><![CDATA[]]></source>
<year>2011</year>
<conf-name><![CDATA[2 International Living Usability Lab Workshop on AAL Latest Solutions, Trends and Applications - AAL 2012]]></conf-name>
<conf-loc>Algarve Algarve</conf-loc>
</nlm-citation>
</ref>
<ref id="B15">
<nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Martins]]></surname>
<given-names><![CDATA[A.]]></given-names>
</name>
<name>
<surname><![CDATA[Queirós]]></surname>
<given-names><![CDATA[A.]]></given-names>
</name>
<name>
<surname><![CDATA[Cerqueira]]></surname>
<given-names><![CDATA[M.]]></given-names>
</name>
<name>
<surname><![CDATA[Rocha]]></surname>
<given-names><![CDATA[N.]]></given-names>
</name>
<name>
<surname><![CDATA[Teixeira]]></surname>
<given-names><![CDATA[A.]]></given-names>
</name>
</person-group>
<article-title xml:lang="en"><![CDATA[The International Classification of Functioning, Disability and Health as a Conceptual Model for the Evaluation of Environmental Factors]]></article-title>
<source><![CDATA[Procedia Computer Science]]></source>
<year>2012</year>
<volume>14</volume>
<page-range>293-300</page-range></nlm-citation>
</ref>
<ref id="B16">
<nlm-citation citation-type="book">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Nielsen]]></surname>
<given-names><![CDATA[J.]]></given-names>
</name>
</person-group>
<source><![CDATA[Usability Engeneering]]></source>
<year>1993</year>
<publisher-loc><![CDATA[Boston ]]></publisher-loc>
<publisher-name><![CDATA[Academic Press]]></publisher-name>
</nlm-citation>
</ref>
<ref id="B17">
<nlm-citation citation-type="">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Nielsen]]></surname>
<given-names><![CDATA[J.]]></given-names>
</name>
</person-group>
<source><![CDATA[Usability 101: Introduction to Usability]]></source>
<year>2003</year>
</nlm-citation>
</ref>
<ref id="B18">
<nlm-citation citation-type="confpro">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Rocha]]></surname>
<given-names><![CDATA[N.]]></given-names>
</name>
<name>
<surname><![CDATA[Teixeira]]></surname>
<given-names><![CDATA[A.]]></given-names>
</name>
<name>
<surname><![CDATA[Pacheco]]></surname>
<given-names><![CDATA[O.]]></given-names>
</name>
<name>
<surname><![CDATA[Queirós]]></surname>
<given-names><![CDATA[A.]]></given-names>
</name>
<name>
<surname><![CDATA[Oliveira]]></surname>
<given-names><![CDATA[C.]]></given-names>
</name>
<name>
<surname><![CDATA[Pereira]]></surname>
<given-names><![CDATA[C.]]></given-names>
</name>
<name>
<surname><![CDATA[Martins]]></surname>
<given-names><![CDATA[A.]]></given-names>
</name>
</person-group>
<article-title xml:lang="pt"><![CDATA[Desenvolvimento e Avaliação Integrada de Seviços AAL Inovadores - Uma Abordagem Living Lab]]></article-title>
<source><![CDATA[]]></source>
<year>2013</year>
<conf-name><![CDATA[8 Conferência Ibérica de Sistemas e Técnologias de Informação]]></conf-name>
<conf-loc>Lisboa </conf-loc>
</nlm-citation>
</ref>
<ref id="B19">
<nlm-citation citation-type="book">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Rubin]]></surname>
<given-names><![CDATA[J.]]></given-names>
</name>
<name>
<surname><![CDATA[Chisnell]]></surname>
<given-names><![CDATA[D.]]></given-names>
</name>
</person-group>
<source><![CDATA[Handbook of Usability Testing: How to Plan, Design, and Conduct Effective Tests]]></source>
<year>2008</year>
<publisher-loc><![CDATA[Indianopolis ]]></publisher-loc>
<publisher-name><![CDATA[John Wiley & Sons]]></publisher-name>
</nlm-citation>
</ref>
<ref id="B20">
<nlm-citation citation-type="book">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Weinhold]]></surname>
<given-names><![CDATA[T.]]></given-names>
</name>
<name>
<surname><![CDATA[Oettl]]></surname>
<given-names><![CDATA[S.]]></given-names>
</name>
<name>
<surname><![CDATA[Bekavac]]></surname>
<given-names><![CDATA[B.]]></given-names>
</name>
</person-group>
<article-title xml:lang="en"><![CDATA[Heuristics for the Evaluation of Library Online Catalogues]]></article-title>
<person-group person-group-type="editor">
<name>
<surname><![CDATA[Katsirikou]]></surname>
<given-names><![CDATA[A.]]></given-names>
</name>
<name>
<surname><![CDATA[Skiadas]]></surname>
<given-names><![CDATA[C.]]></given-names>
</name>
</person-group>
<source><![CDATA[New Trends in Qualitative and Quantitative Methods in Libraries]]></source>
<year>2012</year>
<page-range>425-433</page-range><publisher-loc><![CDATA[Chania ]]></publisher-loc>
<publisher-name><![CDATA[World Scientific Publishing Co]]></publisher-name>
</nlm-citation>
</ref>
<ref id="B21">
<nlm-citation citation-type="book">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Yamaoka]]></surname>
<given-names><![CDATA[T.]]></given-names>
</name>
<name>
<surname><![CDATA[Tukuda]]></surname>
<given-names><![CDATA[S.]]></given-names>
</name>
</person-group>
<article-title xml:lang="en"><![CDATA[A Proposal of Simple Usability Evaluation Method and its Application]]></article-title>
<person-group person-group-type="editor">
<name>
<surname><![CDATA[Wang]]></surname>
<given-names><![CDATA[A.]]></given-names>
</name>
</person-group>
<source><![CDATA[Ergonomics for All: Celebrating PPCOE's 20 years of Excellence]]></source>
<year>2011</year>
<volume>11</volume>
<page-range>63-66</page-range><publisher-loc><![CDATA[Taiwan ]]></publisher-loc>
<publisher-name><![CDATA[CRC Press]]></publisher-name>
</nlm-citation>
</ref>
</ref-list>
</back>
</article>
